微软（MSFT）、谷歌（GOOGL）和OpenAI计划承诺AI安全 - 彭博报道

美国领先的人工智能公司将于周五公开承诺遵守白宫的要求，据知情人士透露。

包括微软公司、Alphabet Inc.旗下的谷歌和OpenAI在内的公司预计将承诺负责地开发和部署人工智能，此前白宫曾警告这些公司必须确保技术不会造成伤害。

但这些承诺是自愿的事实表明了拜登政府在引导最先进的人工智能模型远离潜在滥用方面的局限。国会花了数月时间举行信息会议，以更好地了解人工智能，然后起草任何立法，而立法者可能永远无法就约束性法规达成共识。

预计周五白宫公布的承诺清单将得到参加了与副总统卡玛拉·哈里斯举行的五月会议的顶尖人工智能公司的承诺。在那里，她和白宫高级官员告诉这些公司，他们有责任确保其技术的安全。

“监管过程可能相对缓慢，在这里我们不能等待一两年，”白宫幕僚长杰夫·齐恩茨上个月在一次播客采访中说。

阅读更多：白宫表示支持哈里斯会议后的人工智能新规则

根据白宫文件草案，这些公司的承诺将在国会通过解决这些问题的立法时到期。这些准则侧重于生成式人工智能，例如OpenAI的热门ChatGPT，以及最强大的现有人工智能模型，甚至更有能力的未来模型，根据这份草案。

文件据熟悉此事的人士称，可能在周五之前发生变化。白宫发言人拒绝置评。

即使人工智能技术的开发者们对其潜力充满热情，也警告说它带来了意想不到的风险。拜登政府此前曾提供了其发展的指导方针，包括来自国家标准与技术研究所的风险管理框架，该框架是通过与行业领袖和其他人数月的接触而制定的。

根据草案文件，白宫将在周五发布的文件中提出八项关注安全、安全性和社会责任的承诺。其中包括：

• 允许独立专家尝试推动模型产生不良行为 —— 这个过程被称为“红队测试”。
• 与政府和其他公司分享信任和安全信息。
• 在音频和视觉内容上使用水印技术，以帮助识别由人工智能生成的内容。
• 投资于网络安全措施。
• 鼓励第三方发现安全漏洞。
• 报告社会风险，如不当使用和偏见。
• 优先研究人工智能的社会风险。
• 使用最尖端的人工智能系统，即所谓的前沿模型，来解决社会最重大的问题。

微软、OpenAI 和谷歌的发言人都拒绝置评。

世界各国政府呼吁建立类似于防止核战争的协议的全球人工智能治理。例如，七国集团今年早些时候在日本广岛承诺协调其对这项技术的态度，英国计划在年底之前举办一次国际人工智能峰会。

所有这些努力，然而，远远落后于由企业竞争和对中国创新可能超过西方进步的恐惧所推动的人工智能发展的步伐。

这让西方领导人目前要求公司自我监管。

即使在欧洲，欧盟的人工智能法案远远领先于美国国会初期的监管努力，领导人们也认识到在强制法律出台之前需要公司自愿承诺。在过去三个月与科技高管的会议中，欧盟内部市场专员蒂埃里·布勒顿呼吁人工智能开发者同意一个“人工智能协定”来设定一些非约束性的界限。