《华尔街日报》：人工智能迅猛发展 2024年竞选活动恐遭虚假视频泛滥冲击

一段视频描绘了拜登总统连任后的场景：中国入侵台湾，移民潮涌过美墨边境。在一系列图像中，前总统唐纳德·特朗普被身着制服的警察徒步追捕并拘押。另一张照片显示五角大楼在爆炸后陷入火海。

这些场景的共同点是什么？它们全是伪造的。快速进化的人工智能技术使得生成足以欺骗观众、传播虚假信息的复杂视频和图像变得更为容易，随着2024年大选拉开帷幕，这给政治竞选活动带来了重大威胁。

虚假图像在竞选中并非新鲜事。2020年总统竞选期间，特朗普曾分享过拜登反复吐舌的虚假动画，配文"邋遢乔"。2019年，一段经过减速处理、虚假渲染时任众议院议长南希·佩洛西看似神志不清的视频获得了数百万次观看。

变化在于，随着所谓生成式AI系统的推出，合成媒体变得极易制作——这些系统能将简单输入快速转化为逼真的视频、照片、音乐和文本。如今数百万用户都能使用此类工具，竞选官员们正严阵以待，预计2024年将迎来前所未有的数字内容创作与传播狂潮。

“它不会创造出我们从未想象过的全新虚假信息领域，但会让生产变得更简单、更快速、更廉价，“前总统巴拉克·奥巴马连任竞选活动的数字总监泰迪·高夫表示，“其影响将会非常深远。”

共和党全国委员会发布了一段视频，描绘了如果拜登连任成功，美国将陷入反乌托邦的境地。特朗普分享了一段经过篡改的视频，内容是美国有线电视新闻网(CNN)主播安德森·库珀对这位前总统在该电视台举办的市政厅活动上亮相的反应。

“这是唐纳德·J·特朗普总统在CNN直播的总统市政厅节目上对我们进行猛烈抨击，”库珀在这段经过剪辑的视频中说。

特朗普还分享了一段恶搞佛罗里达州州长罗恩·德桑蒂斯在Twitter Spaces上故障频出的总统竞选启动活动的视频。特朗普发布的这段假视频中出现了德桑蒂斯、Twitter首席执行官埃隆·马斯克、民主党捐助者乔治·索罗斯、前副总统迪克·切尼、阿道夫·希特勒和魔鬼，似乎还使用了人工智能生成的语音克隆，包括特朗普的，他插话说：“别着急，埃隆，真正的总统要说几句话。”

特朗普竞选团队和共和党全国委员会的发言人没有回复记者的置评请求。

人工智能生成内容的速度被视为改变游戏规则的因素。人工智能是一种成本低得多的手段，竞选活动可以通过它实时对事件做出反应，而不必依赖顾问和数字专家。

民主党和共和党的顾问表示，他们也在测试人工智能和风靡一时的聊天机器人ChatGPT，将其作为数字组织工具，可以帮助起草演讲、筹款邮件和短信，以及建立选民档案。尽管竞选活动仍需要审查和编辑人工智能生成的内容，但这项技术可以大大减少日常选民联系所花费的时间。

网络监督机构警告称，这项技术可能被用于更邪恶的目的，包括散布有关投票时间和地点、选民登记截止日期或投票方式的虚假信息。

芝加哥市长选举二月份首轮投票前夕，候选人保罗·瓦拉斯的团队发现推特上流传着一段视频。其竞选经理布莱恩·汤恩表示，视频中出现了瓦拉斯的照片，还播放了酷似其本人的声音，似乎在纵容警察暴力。

汤恩称该视频传播范围有限，可能未影响选举结果。瓦拉斯在二月份的首轮投票中领先，但在决选中落败。尽管如此，汤恩仍将此事描述为危险的先例。他表示无法确认视频制作者身份，但竞选团队判定其很可能使用了AI技术生成。

“对于了解情况的选民来说，这段视频最终会被识破是伪造的，“汤恩说，“但还有很多不了解情况或漠不关心的选民，可能只看过视频片段就突然更倾向于反对某个候选人。”

社交媒体平台通常制定政策声明会删除误导性、经篡改的内容。但这些政策的执行可能不一致或迟缓，平台有时会以允许自由政治辩论为由，对候选人的虚假帖子网开一面。

生成式AI系统的兴起促使科技领袖呼吁建立新的标签系统，让用户能识别内容是否由AI生成。共和党全国委员会发布的拜登连任视频就附有白色小字免责声明：“全部使用AI图像构建”。

“很明显，用户不应在不知情的情况下被动接受来源不明的随机虚假信息，”谷歌前首席执行官、国会任命的人工智能委员会主席埃里克·施密特表示。

谷歌和微软（ChatGPT创建者OpenAI的支持者）均表示，正在开发能通过元数据标记AI生成内容来源的工具。

作为监管的初步举措，白宫近期就人工智能问题征集公众意见，包括如何应对选举程序面临的挑战。

倡议人士指出，现有法律在某些情况下可适用于选举中AI生成内容的使用。联邦选举法禁止候选人冒充其他候选人。倡导组织"公共公民"近期向负责执行竞选法律的联邦选举委员会请愿，要求发布指引明确：若候选人在竞选广告中使用AI生成的竞争对手形象，将适用该条款。该机构尚未回应请愿。

联邦选举委员会无权监管可能发布病毒式传播虚假视频的普通用户。

“公共公民"主席罗伯特·韦斯曼表示，政党和媒体机构应宣布使用欺诈性媒体"越界”。他补充道：“我们实际上尚未准备好应对这一挑战。”

联系作者萨布丽娜·西迪基请致信[email protected]，联系瑞安·特雷西请致信[email protected]

出现在2023年6月6日的印刷版中，标题为《人工智能的发展威胁2024年竞选活动》。