AI聊天机器人“令人担忧”的输出促使美国参议员质询科技巨头-彭博社

在智能手机上的OpenAI标志。

摄影师：Gabby Jones/Bloomberg随着微软公司、OpenAI、谷歌和其他技术公司加快向公众发布聊天机器人和其他基于人工智能的工具，一位美国参议员要求他们解释他们打算如何保护儿童免受伤害。

科罗拉多州民主党参议员迈克尔·贝内特写信给OpenAI、微软、谷歌母公司Alphabet Inc.的谷歌、Facebook母公司Meta Platforms Inc.和Snapchat所有者Snap Inc.的首席执行官 — 所有这些公司都在构建和分发让用户提问、获得建议和以各种形式生成文本的人工智能技术。贝内特称这些软件程序的一些输出“令人担忧”，要求首席执行官在4月28日之前回答关于公司如何评估、减轻和审计其人工智能服务及其背后模型的问题，主要关注他们如何保护年轻用户的安全。

曾经只用于几乎无用的客户服务网络应用的聊天机器人，自OpenAI的ChatGPT在11月走红以来，已成为一个日益竞争激烈的领域。微软正在将OpenAI的技术整合到其Bing互联网搜索引擎中；谷歌正在提供一个名为Bard的基于聊天机器人的测试版本搜索；Snap拥有自己的ChatGPT驱动的名为My AI的机器人。贝内特详细列举了几个程序提供不当回应的例子，包括一份报告显示Snap的程序向假扮成儿童的研究人员提供令人不安的建议。

“最近几项技术中，没有像生成式人工智能一样吸引公众的注意力。这项技术证明了美国的创新，我们应该欢迎它对我们的经济和社会潜在好处，”根据参议员办公室提供的一份副本，Bennet在信中写道。“但是，部署生成式人工智能的竞赛不能以牺牲我们的孩子为代价。负责任的部署需要明确的政策和框架，以促进安全，预见风险，并减少伤害。”

他还要求这些公司告诉他有关年轻用户放入聊天机器人的内容的数据收集和保留政策，以及每家公司有多少员工致力于人工智能安全，特别是那些专注于年轻用户的员工。

阅读更多： 人工智能术语及其含义速查表