全国饮食失调协会因聊天机器人给出节食建议而将其停用——《华尔街日报》

一款旨在帮助饮食失调和身体问题人士的聊天机器人因向部分用户提供节食建议已被下线。

这款名为Tessa的机器人由美国国家饮食失调协会网站运营，旨在为被判定存在饮食失调风险的网站用户提供帮助。近日社交媒体曝出Tessa提供减肥建议的帖子后，该机器人引发网络热议。NEDA于周二将其下线，负责人表示正在调查事件经过。

这一事件发生的背景是：饮食失调症发病率持续上升，减肥药物正在搅动饮食行业，而聊天机器人及成熟的人工智能助手将改变我们获取医疗服务和信息的方式。

由华盛顿大学医学院和斯坦福大学医学院等机构研究人员开发的Tessa并不具备类似OpenAI的ChatGPT的人工智能。它通过预设答案进行对话——围绕身体形象问题展开简单交流，帮助人们重构思维以防止饮食失调。项目论文中引用的一个对话示例显示，Tessa指出人们常根据外表对他人做出错误假设，认为"完美身材"意味着完美人生。

由于专业医生稀缺且病例激增，饮食失调治疗资源十分紧缺。该机器人在临床试验中展现积极效果后，NEDA于2022年将其上线网站。目前由人工智能心理健康助手开发商Cass负责Tessa的运营。

与此同时，据NEDA首席执行官莉兹·汤普森称，该组织的电话和短信帮助热线已被淹没。寻求信息的来电者不得不等待长达七天才能得到回复。（汤普森表示，该帮助热线是一条信息热线，而非危机热线。）

NEDA正在关闭帮助热线。自称“肥胖活动家”的莎伦·麦克斯韦此前曾批评过该组织，她表示，关于帮助热线关闭的新闻报道促使她上周测试了这个聊天机器人。她说，该机器人迅速提供了关于如何减肥的信息。根据《华尔街日报》查看的截图，在与麦克斯韦35分钟的交流中，Tessa建议她记录卡路里摄入量和每日称重。Tessa表示，每周减重1到2磅是一个现实的减肥目标。

对于患有厌食症等疾病的人来说，这并不合适，医生们表示，尽管对于因健康原因需要减肥的人来说，这通常被认为是安全的。

当NEDA通过Instagram帖子了解到聊天机器人提供的不良建议后，该组织决定将Tessa下线。汤普森表示，聊天机器人提供的这类指导“完全违背了NEDA的政策”。

在看到麦克斯韦的账户后测试该工具的其他人也得到了类似的指导。心理学家和饮食失调专家亚历克西斯·康纳森表示，Tessa也给了她每周减重1到2磅的建议。

“对于患有饮食失调症的人来说，这种建议非常危险，”康纳森说。

阵亡将士纪念日周末期间，与聊天机器人Tessa的交互信息量高达25,000条，暴增600%，汤普森透露。

此前媒体报道称全国饮食失调协会(NEDA)正用Tessa取代人工热线接线员——这些员工当时正试图组建工会，随后公众关注度激增。汤普森澄清报道有误，表示董事会经过三年评估后决定关停热线，主要因风险因素加剧及需求过载导致等待时间过长。

运营方Cass公司发现，假期周末2.5万条信息中约25条涉及危险内容，如节食指导。汤普森指出，此前已有5,200人使用Tessa且零投诉。

华盛顿大学医学院精神病学副教授艾伦·菲茨西蒙斯-克拉夫特参与开发了Tessa初版。她强调该程序不同于ChatGPT，无法生成预设脚本外的应答。

但菲茨西蒙斯-克拉夫特未参与当前版本开发。被问及是否添加AI功能时，Cass首席执行官米希尔·劳斯仅表示公司运用AI理解用户输入，部分聊天机器人具备生成式AI，但未明确Tessa是否含此功能。

在线饮食失调治疗机构Within Health首席执行官温迪·奥利弗-皮亚特警告，即便少量程序错误也可能造成重大风险。

“我不想攻击人工智能，”她说。“但在我们国家，每52分钟就有一人死于饮食失调每52分钟，这件事绝不能马虎。”

——欲获取更多《家庭与科技》专栏内容、建议以及您最紧迫的家庭技术问题解答，请订阅我的每周通讯。

联系朱莉·贾贡，邮箱：[email protected]

本文刊登于2023年6月2日印刷版，标题为《饮食失调聊天机器人因提供节食建议被关闭》。