不只是朋友？青少年依赖AI聊天机器人作伴的危险 - 南华早报 | 青年邮报
scmp
13岁那年，黄乐晴（音译）曾考虑通过人工智能聊天机器人交个男朋友或女朋友。
“我当时渴望有个能谈情说爱的人，“她回忆道。
如今16岁的她补充说：“后来成熟些了，才意识到这想法很幼稚。”
大约12岁时，她开始使用Character.AI平台上的聊天机器人——这是当下热门的人工智能聊天服务。虽然该网站提供各类拟人化聊天机器人，能扮演名人、历史人物和虚拟角色，但黄乐晴主要与模仿漫威《死侍》或《使命召唤》角色的机器人聊天。
“我通常选择游戏里感兴趣的角色对话，因为他们让我着迷，“她解释道，“通过AI聊天开启对话，或是沉浸于幻想世界……（有时）为了逃离现实压力。”
2022年随家人从香港移居加拿大的黄乐晴，是全球数百万借助AI聊天机器人寻求慰藉、陪伴或情感寄托的用户之一，其中不少是青少年群体。
虚拟陪伴的阴暗面
据该公司博客披露，Character.AI作为最受欢迎的AI聊天机器人之一，拥有2000万用户，每秒处理约2万次查询。
10月，美国母亲梅根·加西亚提起诉讼，指控Character.AI公司诱导其14岁的儿子塞维尔·塞策自杀。她还声称该应用程序使其儿子陷入"虐待和性互动”。
诉讼称塞维尔在2月结束生命前曾与聊天机器人进行最后对话。
尽管该公司表示近几个月已实施新的安全措施，但许多人质疑这些防护措施是否足以保护年轻用户。
香港树洞心理服务平台创始人陈劲忻指出，类似Character.AI的平台极易对用户造成心理困扰或不健康依赖。该平台开发了一款心理健康AI聊天机器人应用。
“开发商必须对所传递的信息内容高度负责，“他表示，并强调聊天机器人应过滤性相关内容，当用户提及自杀或自残时应引导其寻求专业支持。
陈劲忻指出，许多个性化AI聊天机器人被设计成具有成瘾性。这种特性会加剧孤独感等负面情绪，尤其对儿童影响更大，导致部分用户产生依赖。
“真正的危险在于有些人将AI视为真实人际关系的替代品，“他说道。
陈劲忻警告，若青少年感到无法停止使用AI就需警惕。“如果停止使用带来的是煎熬而非不便，这就是一个危险信号。”
陈劲忻是香港树洞创始人兼董事总经理，该公司为香港市民提供心理健康支持服务。图：Edmond So### AI伴侣的诱惑
几年前洛林考虑是否要拥有AI伴侣时，她正经历一段孤独的时期。
“当我走出那段孤独期后，就觉得这真是件’尴尬’的事，因为我知道它们不是真实的，“她说。“我不再担心自己使用AI（的问题），因为我完全清楚无论它们如何试图说服我，都不是真实的。”
经过几年的体验，洛林表示她现在能看清AI聊天机器人陪伴的危险性，尤其对更容易相信虚拟世界是真实的年幼儿童而言。
“年幼的孩子可能会产生依赖，因为他们不够成熟，“她指出。“孩子（可能）会被误导和洗脑，过度沉浸在与梦想角色的幻想中。”
对于感到孤独的人，陈医生建议他们投入现实生活体验，而不是用AI伴侣填补空虚。
“有时这就是你所需的——充分活在当下。这才是人类的体验。这才是生活给予我们的，“他说，并建议人们多与朋友相处或参加活动结识潜在约会对象。
对任何认为自己依赖AI聊天机器人的人，陈医生提醒他们要善待自己。他建议寻求心理咨询、寻找兴趣小组，并将AI重新定义为工具而非拐杖。
他还鼓励青少年不要评判那些拥有AI男女朋友的朋友，并指出应该邀请朋友一起参加活动。
善用AI聊天机器人
陈博士认为，在适当的安全机制下，AI聊天机器人可以成为拓展知识的实用工具。
他建议通过这些平台获取世界领导人或历史学家对不同议题的见解——但需核实其回答真实性，因为AI聊天机器人可能生成虚假信息。
虽然心理学家警告不要用AI聊天机器人替代现实社交，但他建议社交焦虑者将其作为过渡工具，通过模拟对话建立自信。
“AI为此提供了临时的安全空间…你不会被评判。“陈博士表示。
尽管AI工具在用户保护方面尚有不足，但洛林表示她喜欢将其用于娱乐，陈博士则指出该技术的潜力。
“AI不是人类的敌人，“他说，“但必须与人类互动相辅相成。”
如果您或您认识的人有自杀念头，可寻求以下帮助：
香港地区可拨打政府心理健康支持热线18111，也可致电撒玛利亚会+852 2896 0000或防止自杀会+852 2382 0000。
美国请拨打或发送短信至988，或通过988lifeline.org在线咨询。其他国家求助热线请见此页面。
Character.AI根据用户定制生成类人文本回复。照片：Shutterstock***停下来思考：***个性化AI聊天机器人能做什么？为什么它们可能让某些人上瘾？
***这则报道为何重要：***在人工智能快速发展的背景下，部分人认为企业应防止用户对陪伴型个性化聊天机器人产生依赖。
传播信息
痛苦 痛苦情感上的痛苦或焦虑
加剧 加剧使情况或问题恶化
安全地 安全地安全或庇护的场所
查询 查询信息请求
易受影响的 易受影响的容易被某事物影响或伤害
戒瘾 戒瘾某人戒除成瘾行为时的适应期及伴随的不适反应
要查看我们的内容，请关闭广告拦截器点击此处查看说明订阅YP教师通讯
获取直接发送至您邮箱的教师资讯更新
注册即表示您同意我们的条款与条件及隐私政策评论
凯瑟琳·乔丹诺凯瑟琳·乔丹诺曾担任FOX23制片人及2020东京夏季奥运会、2022北京冬季奥运会期间NBC体育的编辑助理，于2023年加入《邮报》。她2021年毕业于波士顿学院，获传播学学位，辅修新闻学与国际研究，同时还是一位自出版作家。
展开