微软工程师警告AI工具生成有害图像 需加强防护措施——华尔街日报

微软已对人工智能领域投资数十亿美元，并于去年推出了Copilot Designer。图片来源：Tada Images/Shutterstock微软一名人工智能工程师表示，该公司的AI图像工具生成了可能对社会构成威胁的暴力和色情图像。

周三，首席软件工程经理Shane Jones在致美国联邦贸易委员会和微软董事会的信中表达了他的担忧，他说他对这家科技巨头的“负责任AI方针”感到担忧。

Jones提出担忧，认为该公司的Copilot Designer工具可能被用来创建不安全的图像，包括色情、阴谋论和吸毒的描绘。

“Copilot Designer在多个类别中生成有害内容，包括：政治偏见、未成年人饮酒和吸毒、滥用企业商标和版权、阴谋论以及宗教等，”Jones在致美国联邦贸易委员会的信中表示，这封信也被他发布在LinkedIn上。“我已多次敦促微软在实施更好的安全措施之前，停止Copilot Designer的公开使用，”信中写道。

他表示，微软的环境、社会和公共政策委员会应进行独立调查，以帮助微软“以最高标准的负责任AI引领行业”。

“我们需要产业界与政府、民间社会建立强有力的合作，同时提升公众对人工智能风险及益处的认知和教育，”琼斯在一篇帖子中写道。

已在微软工作六年的琼斯表示，他自去年12月起测试这款AI图像生成工具，发现其存在可能让用户生成有害图像的漏洞——这些图像可能对消费者造成冒犯或不适。

琼斯拒绝就其信件和领英帖文内容进一步置评。

微软未立即回应置评请求。

在上月的博客文章中，微软总裁布拉德·史密斯阐述了公司保障AI安全的承诺：“随着微软及科技行业陆续推出这些新工具，我们必须采取新措施确保技术不被滥用。”

自2022年底OpenAI发布ChatGPT以来，人工智能竞赛急速升温。数千亿美元涌入该领域，引发科技巨头与亿万富翁们竞逐下一个AI摇钱树。

微软去年推出的Copilot Designer采用了与ChatGPT同源的技术。该系统整合了OpenAI的DALL-E 3文生图模型，用户可通过输入文字组合或描述来生成图像。

公司期待通过为Microsoft 365推出的Copilot人工智能升级——这款产品已接入Word、Outlook和Teams——创造数十年来最成功的产品之一。

琼斯发表公开信之前，竞争对手谷歌的人工智能推进正深陷争议。由于该工具处理种族问题引发网络反弹，谷歌上月暂停了其旗舰聊天机器人Gemini生成人物图像的功能。

琼斯承认其他推出人工智能产品的公司也面临各自问题，并赞扬Alphabet首席执行官桑达尔·皮查伊在给员工的内部备忘录中直接回应了Gemini的问题。

微软已向OpenAI投资数十亿美元。琼斯去年12月表示，他发现OpenAI的DALL-E 3模型存在安全漏洞，使他能够绕过部分防止生成有害图像的安全协议。

在发现DALL-E 3更多系统性缺陷后，他于12月在领英发布另一封致OpenAI董事会的公开信，敦促他们暂停该软件的开放使用直至问题解决。

琼斯称其经理曾要求他删除12月的公开信。OpenAI周三未立即回应置评请求。

“过去三个月里，我多次敦促微软在建立更完善防护措施前，将Copilot Designer撤出公众使用范围。“他在致联邦贸易委员会主席莉娜·汗的信中写道。他呼吁联邦贸易委员会与微软等公司合作提升AI安全性，并提高AI风险披露的透明度。

尼古拉斯·哈彻为本文做出了贡献。

请致信史蒂文·鲁索利洛，邮箱：[email protected]，以及加雷斯·维珀斯，邮箱：[email protected]