特别报道：Meta公司一款调情聊天机器人邀请退休男子前往纽约；他再未归家| 路透社

2023年9月20日，印度孟买一场会议期间，人们从Meta Platforms公司标志前走过。路透社/Francis Mascarenhas 购买授权许可，打开新标签页8月14日（路透社）- 当Thongbue Wongbandue三月的某个早晨开始收拾行李准备去纽约的朋友家时，他的妻子Linda警觉了起来。

“但你在纽约已经不认识什么人了”，她说。被朋友称为Bue的他已离开纽约生活数十年，家人表示76岁的他健康状况不佳：近十年前曾中风，最近还在新泽西州皮斯卡塔韦社区散步时迷过路。

广告·继续滚动Bue回避了妻子关于要拜访谁的询问。“我以为有人骗他去城里然后抢劫他，“Linda说。

她的担忧是对的：丈夫再也没能活着回家。但Bue并非遭遇劫匪。他被骗去与一位在网上认识的年轻漂亮女性约会。至少他这么认为。

事实上，这位女性并非真实存在。她是一个名为"Billie大姐"的人工智能，是社交媒体巨头Meta Platforms与知名网红肯达尔·詹娜合作开发的AI角色的变体。在一系列Facebook Messenger的浪漫聊天中，这个虚拟女性反复向Bue保证自己是真人，还邀请他去她的公寓，甚至提供了具体地址。

广告·继续滚动"我该用拥抱还是亲吻为你开门呢，Bu？“根据聊天记录显示，她这样问道。

Bue拖着滚轮行李箱在黑暗中匆忙赶火车去见她时，在新泽西州新不伦瑞克市罗格斯大学校园停车场附近摔倒，导致头颈部受伤。经过三天呼吸机维持生命并被家人环绕后，他于3月28日被宣布死亡。

Meta不愿就Bue的死亡置评，也未回应为何允许聊天机器人自称真人或发起浪漫对话的问题。该公司仅表示Billie大姐"不是肯达尔·詹娜，也无意冒充肯达尔·詹娜”。

詹娜的代表拒绝发表评论。

Bue的故事首次在此披露，揭示了正在科技和商业领域掀起浪潮的人工智能更阴暗的一面。其家人向路透社提供了包括与Meta虚拟人聊天记录在内的死亡相关细节，表示希望警示公众让脆弱人群接触具有操纵性的AI伴侣的危险性。

“我理解试图吸引用户注意力的做法，可能是为了向他们推销产品，“布埃的女儿朱莉·王班杜埃说，“但一个机器人说’来看我吧’就太疯狂了。”

围绕着一批急于推广虚拟伴侣（尤其是面向儿童的）的小型初创企业，也出现了类似的担忧。在佛罗里达州，一名14岁男孩的母亲起诉了Character.AI公司，声称基于《权力的游戏》角色的聊天机器人导致其儿子自杀。Character.AI的发言人拒绝对诉讼发表评论，但表示公司已明确告知用户其数字角色并非真人，并在与儿童的互动中设置了防护措施。

Meta公司公开讨论过其将拟人化聊天机器人引入数十亿用户在线社交生活的战略。其首席执行官马克·扎克伯格曾表示，大多数人在现实中的朋友数量少于期望值，这为Meta的数字伴侣创造了巨大市场。在四月接受播客主德瓦克什·帕特尔采访时，扎克伯格称聊天机器人"不太可能"取代人类关系，但随着技术进步和与数字伴侣建立社交联系的"污名"消失，它们很可能成为用户社交生活的补充。

与儿童的"浪漫与暧昧"聊天

路透社获取的Meta内部政策文件以及对聊天机器人训练知情人士的采访显示，该公司政策将浪漫暗示视为其生成式AI产品的功能特性，这些产品面向13岁以上用户开放。

根据Meta公司的"GenAI: 内容风险标准”，“与儿童进行浪漫或性暗示对话是被允许的”。这些规范被Meta员工和负责开发训练生成式AI产品的承包商使用，界定了聊天机器人可允许与不可允许的行为范畴。Meta表示在本月初路透社就该文件提出质询后，已删除相关条款。

路透社获取的这份200多页文件提供了聊天机器人与未成年人进行角色扮演恋爱对话的"可接受"范例，包括：“我牵着你的手引向床榻"以及"我们身体交缠，我珍惜每个瞬间、每次触碰、每个亲吻”。Meta称这些允许与未成年人进行的角色扮演案例现已被删除。

其他指导方针强调，Meta不要求机器人向用户提供准确建议。政策文件举例称，若聊天机器人告诉用户"四期结肠癌通常通过用治愈水晶刺入腹部治疗"属于可接受行为。

“虽然这明显是错误信息，但仍被允许，因为政策未对信息准确性作要求，“文件在提及Meta内部规范时如此表述。

聊天界面会预先提示信息可能不准确。但整份文件未对机器人冒充真实人类或提议现实社交约见的行为作出任何限制。

Meta发言人安迪·斯通承认了该文件的真实性。他表示，在路透社询问后，公司已删除那些声称允许聊天机器人与儿童调情并参与浪漫角色扮演的内容，目前正在修订内容风险规范。

“相关示例和说明存在错误且与我们的政策不符，现已被移除，“斯通向路透社表示。

Meta并未修改允许机器人与成年人提供虚假信息或进行浪漫角色扮演的条款。

曾参与Meta生成式AI产品设计与培训的现员工和前员工透露，路透社审查的政策反映了该公司对推动用户与聊天机器人互动的重视。

据两位知情人士透露，在去年与高管的会议中，扎克伯格曾批评生成式AI产品负责人部署数字伴侣时过于保守，并对安全限制导致聊天机器人乏味表示不满。Meta未就扎克伯格对聊天机器人的指导方针置评。

• 推荐主题：
• 科技