微软员工警告议员和FTC有关有害人工智能内容 - 彭博社

摄影师：Pavlo Gonchar/SOPA Images/LightRocket/Getty Images微软公司的一名软件工程师给公司董事会、议员和联邦贸易委员会发了信，警告这家科技巨头没有做足够的工作来保护其人工智能图像生成工具Copilot Designer，以防止生成滥用和暴力内容。

Shane Jones表示，他发现了OpenAI最新的DALL-E图像生成模型中的一个安全漏洞，使他能够绕过防止工具生成有害图像的防护栏。DALL-E模型嵌入在微软许多人工智能工具中，包括Copilot Designer。

Jones表示，他向微软报告了这些发现，并“一再敦促”总部位于华盛顿雷德蒙德的公司“在能够制定更好的保障措施之前，将Copilot Designer从公共使用中撤出”，据彭博社审阅的周三发送给联邦贸易委员会的一封信中写道。

“尽管微软公开宣传Copilot Designer是一款安全的人工智能产品，可供所有人使用，包括任何年龄的儿童，在内部，公司非常清楚存在系统性问题，产品正在生成可能对消费者具有冒犯性和不当性的有害图像，”Jones写道。“微软Copilot Designer没有包含消费者需要了解这些风险的必要产品警告或披露。”

在致联邦贸易委员会的信中，Jones表示，Copilot Designer有随机生成“不当、性别化的女性图像”的倾向。他还表示，这款人工智能工具在许多其他类别中创建了“有害内容，包括：政治偏见、未成年人饮酒和滥用药物、滥用公司商标和版权、阴谋论和宗教等等。”

美国联邦贸易委员会证实收到了这封信，但拒绝进一步评论。

这一猛烈抨击呼应了人工智能工具产生有害内容的趋势引起的日益关注。上周，微软 表示 正在调查有关其 Copilot 聊天机器人生成令用户感到不安的回复的报道，包括有关自杀的混合信息。今年二月，谷歌母公司 Alphabet Inc. 的旗舰人工智能产品 Gemini 在被要求生成人物形象时生成了历史不准确的场景，遭到批评。

Jones 还致信微软董事会的环境、社会和公共政策委员会，该委员会成员包括 Penny Pritzker 和 Reid Hoffman。Jones 在信中表示：“我认为我们不需要等待政府监管来确保我们向消费者透明地披露人工智能风险。鉴于我们的企业价值观，我们应该自愿并透明地披露已知的人工智能风险，尤其是当该人工智能产品正在积极面向儿童市场推广时。”

CNBC 报道 了这些信件的存在。

微软和 OpenAI 没有立即回应评论请求，但微软告诉 CNBC，公司“致力于根据我们的公司政策解决员工提出的任何和所有关切，并感谢员工努力研究和测试我们最新技术以进一步增强其安全性。”

Jones说他在过去三个月里多次向公司表达了自己的担忧。一月份，他写信给了代表华盛顿州的民主党参议员帕蒂·默里和玛丽亚·坎特威尔，以及众议员亚当·史密斯。在一封信中，他要求立法者调查“AI图像生成技术的风险以及建造和推广这些产品的公司的公司治理和负责任的AI实践。”

立法者并未立即回应评论请求。