2024年选举：OpenAI、亚马逊、谷歌等科技公司同意合作打击人工智能滥用 - 彭博社

人工智能的大量使用使得制作逼真的假图片、音频和视频变得普遍可及，引发了人们对这项技术可能被用来误导选民的担忧。

摄影师：Al Drago/BloombergOpenAI、亚马逊公司、谷歌和其他17家人工智能技术的主要参与者已经组成了一个财团，试图阻止人工智能被用来欺骗全球即将举行的选举中的选民。

这些公司在周五的慕尼黑安全会议上宣布了这项协议，承诺一系列的承诺，试图检测人工智能生成的选举虚假信息，对其做出回应，并提高公众对欺骗可能性的认识。

人工智能的大量使用使得制作逼真的假图片、音频和视频变得普遍可及，引发了人们对这项技术可能被用来误导选民的担忧，而在今年的选举中，将决定全球40%人口的领导人。上个月，一条听起来像是乔·拜登总统的人工智能生成音频试图劝阻民主党人在新罕布什尔州初选中投票。

这些公司承诺使用技术来减轻人工智能生成的选举内容的风险，这项协议名为“2024年选举中打击人工智能欺骗性使用的科技协议”。他们还承诺相互分享如何应对不良行为者的信息。

“AI没有创造选举欺骗，但我们必须确保它不帮助欺骗蓬勃发展，”微软公司总裁布拉德·史密斯在宣布协议的新闻发布会上说。

阅读更多：Deepfake Biden Audio Alarms Experts in US Election Lead-Up

Adobe公司，字节跳动有限公司TikTok和国际商业机器公司，以及Anthropic和Inflection AI等初创公司都是签署者之一。该协议还包括社交媒体公司Meta Platforms Inc.，X和Snap Inc.

“有意而未经披露地生成和传播欺骗性的AI选举内容可能以危害选举过程的诚信方式欺骗公众，”协议中说道。

鉴于候选人声音和形象的逼真伪造品的增加，新协议将试图限制伪造政治候选人和其他选举参与者的言论或行为的数字内容。

然而，许多科技公司表示，他们对AI生成内容可能被政治滥用的潜力感到担忧。Meta开发的系统最初只能检测伪造图像，而不能检测音频或视频，并且可能会错过已被剥离水印的图像。

“我们的心情不宁，”OpenAI首席执行官萨姆·阿尔特曼上个月在世界经济论坛的彭博活动上说。“今年我们将不得不密切关注这一点。”