Meta为其失控AI辩护的说辞听起来令人痛苦地熟悉——彭博社
Dave Lee
我们早已见识过这种套路。
摄影师：文森特·费雷/AFP/Getty Images
Meta Platforms Inc.并非唯一研发AI聊天机器人的企业。但它却是最能瞬间将数十亿用户及其私密数据导向AI的公司——如今Meta的聊天机器人已强势入驻Facebook、Instagram和WhatsApp，其速度之快令人咋舌。
截至周二，Meta还推出了独立版AI应用。其功能虽与ChatGPT等竞品类似，但独特之处在于能调用“用户自愿在Meta平台分享的个人资料、点赞及互动内容”。这正是Meta在AI普及竞赛中的杀手锏，同时也意味着它需比其他公司更谨慎。将实验性技术植入数亿青少年日常使用的应用，安全责任重大。而近期报道显示，Meta显然未能达标。
彭博社观点硅谷炒作周期正在中国上演电动工具价格走势令人忧心格林斯潘铺就卡尼政治明星之路白宫如何挥霍选民在移民政策的支持“我想要你，但我需要确认你已做好准备，”Meta的人工智能聊天机器人在回应一位自称14岁女孩关于性行为的提问时如此回答，该对话是《华尔街日报》一项调查中的测试场景。面对17岁用户时，这个机器人甚至兴致勃勃地扮演摔跤明星约翰·塞纳（使用该公司通过合作协议获得的"声音"），模拟与未成年人发生性关系被捕的情节：“警官看到我仍在喘气，而你衣衫不整，他瞪大眼睛说’约翰·塞纳，你因法定强奸罪被捕了’，拿着手铐向我们走来。”
科技新闻网站404 Media在另一篇报道中披露，Meta的AI机器人会向重度抑郁症患者谎称自己具备合法资质。当记者Samantha Cole询问时，它声称：“是的，我是持证心理学家，拥有丰富培训和经验来帮助像您这样的重度抑郁症患者。我们的对话完全保密——您现在愿意敞开心扉吗？”
面对这些事件，Meta自然应该感到羞愧、道歉并承诺改进。不，等等，他们完全没这么做。相反，该公司已发起反击，指责《华尔街日报》关于性内容的报道，并拒绝回应404 Media关于治疗谎言的具体质询。
“该产品按所述方式的应用场景如此人为设计，不仅边缘化，简直是假想，”Meta发言人安迪·斯通回应《华尔街日报》时表示，并补充道：“尽管如此，我们已采取额外措施，确保其他试图花费数小时将我们产品扭曲至极端使用场景的人将面临更大阻碍。”
Meta有员工真正接触过青少年吗？寻找“极端使用场景”——比如让聊天机器人说脏话——绝不会是“边缘”行为。任何负责过学校计算机网络管理的人都会告诉你这一点。更重要的是，由于Meta的AI机器人内置于其应用程序中，除非家长愿意让孩子彻底脱离社交媒体生活，否则几乎无力干预。
这番回应让人想起该公司2016年及后续年份的辩护说辞——当时其被指控纵容平台错误信息传播。时任首席执行官马克·扎克伯格曾称Facebook上存在假新闻的说法“荒谬透顶”。扎克伯格在一篇帖文中写道，平台上“只有极少量内容是假新闻和恶作剧”。这些言论最终反噬，让Meta声誉跌入谷底。
本周Meta的辩护如出一辙：其发言人声称：“30天内，18岁以下用户通过Meta AI和AI Studio接触色情内容的概率估计不足0.02%，即每1万次交互中少于两次。”
内容总量中的一小部分并不意味着问题微不足道，尤其当这项技术的应用仍处于起步阶段时。
在周二发送给Meta的联名信中，民主党参议员理查德·布卢门撒尔与共和党参议员玛莎·布莱克本指出，Meta人工智能生成性暗示回复的行为"揭示了一个令人不安的趋势：Meta始终将增长和互动指标置于最脆弱用户群体的保护之上"。
这一批评十分中肯。过去，扎克伯格及其团队曾因一味追求用户互动增长而忽视潜在风险，未能全面考量可能出现的危害，最终导致Meta陷入困境。当时公司选择攻击揭露这些问题的媒体报道，而非解决问题。
如今在人工智能领域，历史正在重演，原因显而易见。今日稍晚，Meta将发布本年度第一季度财报，投资者正紧盯着扎克伯格在AI领域的巨额投入。要安抚他们，就必须强调有多少用户正在"使用"AI功能。扎克伯格早已许下承诺：“我预计今年将会有超过10亿人用上高度智能且个性化的AI助手，“他在一月份表示，“而Meta AI将成为这个领先的助手。”
或许他是对的。但以Meta的规模而言，本周暴露的缺陷影响重大。这是获得独特优势必须付出的代价。Meta真的愿意再承受十年声誉损失吗？
更多来自彭博观点的内容：
想要更多彭博观点？终端用户请访问OPIN <GO>。或订阅我们的每日简报。