《华尔街日报》：AI深度伪造技术新时代使2024年大选情势复杂化

人工智能技术的爆炸式发展使得在互联网上欺骗人们变得前所未有的容易，并将2024年美国总统大选变成了一场关于如何监管欺骗性内容的前所未有的考验。

上个月，新罕布什尔州打响了第一枪。在该州总统初选前几天，估计有5,000至25,000通电话打出，告诉收件人不必费心投票。

“你的投票在11月才有意义，不是这个星期二，”这个声音说。根据安全公司Pindrop的分析，它听起来像拜登总统，但实际上是由AI生成的。该消息还劝阻独立选民参与共和党初选。

然而，在社交媒体上，这通电话的来源引发了争议。在Meta Platforms的Threads应用上，一些用户认为这是试图压制选民投票率。“这绝对是选举干预，”一位用户写道。在前总统唐纳德·特朗普的网站Truth Social上，一些用户将这通电话归咎于民主党人。“可能不是假的，”一位用户发帖说。

当Pindrop分析这段音频时，他们发现了这通电话是伪造的明显迹象。例如，拜登的声音在发出构成字母S和F的嘈杂摩擦音时，以一种非常不自然的方式发音。

两周后，新罕布什尔州总检察长办公室表示，他们已确定总部位于德克萨斯州的一家公司Life Corp.为这通电话的来源，并发布了一项停止与终止令，引用了反对选民压制的法律。Life Corp.的代表没有回复寻求评论的电子邮件。

得益于生成式人工智能的最新进展，几乎任何人都能制作出越来越逼真的虚假图像、音频和视频，以及看似真实的虚构社交媒体用户和机器人。随着2024年全球选举大年的到来，研究人员和美国官员表示，选民们已经遭遇了可能造成混淆的人工智能虚假信息。

OpenAI首席执行官萨姆·奥尔特曼表示，他对公司技术可能被用于选举持谨慎态度。图片来源：克里斯·拉特克利夫/彭博新闻人工智能伪造内容激增之际，社交媒体公司正试图避免介入美国政治相关的棘手内容裁决。各平台也表示希望尊重言论自由原则。

根据国际选举制度基金会的统计，今年全球约70个国家将举行全国大选，这些国家人口总数近40亿，约占世界总人口的一半。

尽管人工智能开发者和社交媒体平台通常都制定了禁止以欺骗方式使用人工智能或误导选民投票的政策，但这些公司执行相关规定的效果尚不确定。

OpenAI首席执行官萨姆·奥尔特曼1月在瑞士达沃斯世界经济论坛年会上的彭博活动期间表示，虽然OpenAI正在制定防护措施，但他仍对公司技术可能被用于选举保持警惕。“今年我们必须对此保持极度关注，“奥尔特曼说。

OpenAI表示正在采取多项措施为选举做准备，包括禁止将其工具用于政治竞选活动；对其Dall-E工具生成的图像来源信息进行编码；并通过链接到全国州务卿协会运营的CanIVote.org网站，处理有关美国投票方式和地点的查询。

二月初，Facebook母公司Meta Platforms的监督委员会在审查去年Facebook未删除拜登经过修改的视频事件后，称该平台关于篡改内容的规则不连贯。

这个由公司创建的外部机构发现，Facebook遵守了现有政策，但表示该平台应在即将到来的选举前迅速采取行动，澄清其关于操纵内容的政策。Meta的一位发言人表示，公司正在审查委员会的指导，并将在未来几个月内做出回应。

Meta表示，其2024年选举计划与往年基本一致。例如，在美国11月大选前的最后一周，将禁止新的政治广告。Meta还对其AI功能创建的超逼真图像进行标记。

研究选举的人士就AI深度伪造实际上能在多大程度上影响某人的投票存在争议，特别是在美国，大多数人表示他们可能已经决定了支持哪位总统候选人。然而，AI生成的伪造品的可能性也可能以另一种方式混淆视听，导致人们甚至对真实的图像和录音产生怀疑。

关于人工智能的说法正被用来“诋毁人们不愿相信的事物”——例如，斯坦福互联网观察站的研究经理蕾妮·迪雷斯塔表示，围绕10月7日哈马斯袭击以色列拍摄的合法视频。

多年来，社交媒体巨头们一直在努力应对围绕政治内容的问题。2020年，他们采取了激进措施来监管政治言论，部分原因是为了回应四年前有关俄罗斯干预美国大选的报道。

自2022年收购推特以来，埃隆·马斯克以言论自由为名，重新命名了该网站，并取消了许多之前的限制。照片：托尔加·阿克门/普尔/Shutterstock现在，他们正在某些方面放松限制，尤其是在埃隆·马斯克的X平台上。

自2022年收购推特以来，马斯克以言论自由为名，重新命名了该网站，并取消了许多之前的限制。X平台恢复了之前被暂停的账户，并开始出售之前为知名人士设计的验证徽章。根据X去年向澳大利亚在线安全监管机构披露的数据，X还裁减了超过1200名信任与安全部门的员工，这是马斯克表示为了稳定公司财务状况而进行的大规模裁员的一部分。

最近，X公司宣布正在招聘更多安全工作人员，包括约100名内容审核员，他们将在德克萨斯州奥斯汀工作，同时在全球范围内增设其他职位。

YouTube表示已停止删除声称2020年及其他过往美国大选存在广泛舞弊的视频，理由是出于对限制政治言论的担忧。Meta在决定允许政治广告质疑拜登2020年胜选合法性时，也采取了类似立场。

Meta还在2022年底开始的大规模裁员中解雇了许多从事选举政策工作的员工，尽管该公司表示其整体信任与安全工作有所扩展。

X、Meta和YouTube在2021年1月6日美国国会大厦袭击事件后封禁了特朗普，后又以公众应能听取候选人言论等理由恢复其账号。特朗普多次虚假宣称自己赢得2020年大选或选举被"操纵”。

前Facebook公共政策总监凯蒂·哈巴斯表示，她认为平台在裁决政治内容相关问题时已精疲力竭。她补充说，对于具体规则和处罚措施尚未形成明确共识。

“许多平台更倾向于’尽可能不干预可能是更好的选择’，“哈巴斯说道。

这些公司表示，他们仍致力于打击欺骗性内容，并帮助用户获取关于如何及何处投票的可信信息。X平台称其措施包括加强事实核查功能"社区笔记”，该功能依赖志愿者为帖子添加上下文。

包括马斯克和许多保守派在内的批评者，抨击了社交媒体巨头在2020年前后为管理政治内容采取的措施，尤其是推特。例如，他们提到2020年11月大选前不久的一个事件，当时推特暂时屏蔽了《纽约邮报》关于现任总统拜登之子亨特·拜登报道的链接。

（《纽约邮报》与《华尔街日报》同属新闻集团旗下）

推特高管们后来承认越界，但表示是出于对可能遭黑客窃取材料的担忧，而非政治倾向。

本次选举周期的其他变化源于密苏里州和路易斯安那州共和党总检察长提起的诉讼，他们指控拜登政府官员监管社交媒体帖子的方式构成违宪审查。下级法院裁决限制联邦政府与社交媒体平台的沟通方式，尽管最高法院后来暂缓执行这些裁决。此案目前正由最高法院审理。国会共和党人也在调查反虚假信息工作。

“我们与社交媒体公司保持一定互动，但在法院裁决后，这些互动性质已发生根本性变化，”联邦调查局局长克里斯托弗·雷在十月份的参议院听证会上表示。他称该机构当前行动是“出于充分谨慎的考虑”。

民主党官员和虚假信息研究人员指出，此类沟通对于打击包括外国影响力行动在内的恶意网络活动至关重要。

联邦当局表示保持高度警惕。据高级情报官员透露，截至目前美国尚未发现针对2024年大选的大型外国支持干预行动。

美国网络司令部及国家安全局前局长保罗·中曾根将军在退休前誓言，2024年美国大选将是有史以来“抵御外国干预最安全的选举”。“如果无法沿用2022年或2020年的运作模式，”他补充道，“我们就必须寻找新方法。”——杰克·吉勒姆对本文亦有贡献。

联系作者：罗伯特·麦克米伦，邮箱[email protected]；亚历克莎·科尔斯，邮箱[email protected]；达斯汀·沃尔兹，邮箱[email protected]