打击深度伪造：正在做些什么？拜登通过机器人电话向泰勒·斯威夫特AI图像致敬 - 彭博社

一台ASML High-NA极紫外系统来源：Michel de Heer/ASML

一名曾在Twitter Inc.工作的员工因向沙特阿拉伯提供平台用户个人信息而被定罪，他表示自己应该获得新审判，因为检察官没有告诉他有关公司安全漏洞的告密者报告。

Ahmad Abouammo在周四的一份法庭文件中表示，这份爆炸性报告可能会对他有帮助，因为正如他的律师对陪审团辩护的那样，Twitter将他“推到了绝路”，以转移对公司对用户数据处理不慎的注意力。

ASML Holding NV正在展示其最新的芯片制造设备，一台价值3.5亿欧元（3.8亿美元）的设备，重量相当于两架空客A320飞机。

媒体机构于周五参观了这台被称为High-NA极紫外系统的设备。英特尔公司已经下订单购买了这台设备，并于去年12月底将第一台设备运往俄勒冈州的工厂。该公司计划在2025年底开始使用这台设备生产芯片。

世界上充斥着深度伪造视频、音频或图片，其中人们似乎在做或说他们没有做或说的事情，或者在他们没有去过的地方。大多数深度伪造视频和图片是通过将名人的脸部映射到其他人的身体上制作的。有些用于欺骗消费者，或者损害政客和其他公众人物的声誉。人工智能的进步意味着只需在键盘上轻敲几下就可以制作出这些内容。担忧的政府正在寻找方法来反击。

1. 什么措施正在采取来对抗深度伪造技术？

2月8日，美国联邦通信委员会宣布，公司使用人工智能生成的声音进行电话轰炸是违法的。这项禁令是在FCC对负责制作总统乔·拜登音频深度伪造的公司发布了停止和禁令两天后颁布的。新罕布什尔州居民在该州总统初选前收到了一条电话轰炸，声音听起来像是拜登敦促他们留在家里，“为11月的选举保留你的选票。”这个声音甚至说出了拜登的一个标志性短语：“真是一派胡言。”目前美国没有联邦法律禁止深度伪造技术。一些州已经实施了关于深度伪造色情内容的法律，但它们的适用在全国范围内不一致，这使得受害者难以追究制作者的责任。欧盟提出的《人工智能法案》将要求平台将深度伪造技术标记为此类。

2. 深度伪造技术在哪些其他地方成为新闻焦点？

一月底，流行歌手泰勒·斯威夫特的深度伪造色情图片在社交媒体上被广泛分享，引起了她众多粉丝的愤怒。这一事件引起了白宫的关注。在那个月的早些时候，漫威系列中的17岁女演员Xochitl Gomez发表了声明，报告称她在社交媒体上发现了带有她脸部的深度伪造色情内容，但未能成功将这些内容撤下。

3. 深度伪造视频是如何制作的？

它们通常是使用经过训练的AI算法制作的，该算法被训练以识别特定人物真实视频录像中的模式，这个过程被称为深度学习。然后可以将一个视频的元素，比如人的脸，替换到另一段内容中，而不会看起来像是一个粗糙的蒙太奇。当与语音克隆技术一起使用时，这些操纵最具误导性，该技术将某人说话的音频剪辑分解为半音节块，然后重新组装成新的单词，这些单词看起来好像是由原始录音中的人说出来的。

Midjourney AI生成的教皇弗朗西斯的假照片，左边，以及真实的教皇弗朗西斯的照片。来源：Midjourney；AFP/Getty Images### 4. 深度伪造技术是如何兴起的？

这项技术最初是学术界和研究人员的领域。然而，Vice出版的Motherboard在2017年报道称，一个名为“deepfakes”的Reddit用户使用开源代码设计了一个制作假视频的算法。Reddit封禁了这个用户，但这种做法却蔓延开来。最初，深度伪造需要已经存在的视频和真实的声音表演，以及熟练的编辑技能。如今的生成式AI系统允许用户从简单的书面提示中产生令人信服的图像和视频。让计算机创建一个视频，让某人张嘴说话，它就会出现。随着AI公司将这些新工具应用于网络上可用的大量素材，从YouTube到库存图像和视频库，数字伪造变得更难被发现。

5. 有哪些其他深度伪造的例子？

中国网络 trolls 散布了操纵过的图片，声称夏威夷茂宜岛上的八月野火是由美国正在测试的秘密“气象武器”引起的。2023年5月，一张在线传播的图片显示五角大楼着火，导致美国股市短暂下跌。专家表示，这张假图片具有由人工智能生成的特征。那年二月，出现了一段制造的音频剪辑，听起来像尼日利亚总统候选人阿提库·阿布巴卡在策划操纵当月选举的声音。2021年，社交媒体上发布了一段长达一分钟的视频，似乎显示乌克兰总统沃洛迪米尔·泽连斯基告诉他的士兵放下武器向俄罗斯投降。

6. 这里存在什么危险？

人们担心深度伪造最终会变得如此令人信服，以至于不可能区分真实和虚假。想象一下，欺诈者通过制作伪造的视频，显示首席执行官发布公司更新，或者制造出士兵犯下战争罪行的视频，从而操纵股价。政治家、商界领袖和名人尤其面临风险，因为有很多他们的录音可供使用。这项技术使所谓的复仇色情成为可能，即使没有实际的裸照或视频，女性通常成为目标。一旦视频在互联网上走红，几乎不可能控制。另一个担忧是，关于深度伪造的传播意识将使那些真的被拍到做或说令人反感或非法的事情的人更容易声称针对他们的证据是伪造的。一些人已经在法庭上使用深度伪造辩护。

7. 还有什么其他方法可以抑制深度伪造视频？

产生深度伪造视频的机器学习技术很难被逆转来检测它们。但一些初创公司，如总部位于荷兰的Sensity AI和总部位于爱沙尼亚的Sentinel，正在开发检测技术，许多美国大型科技公司也在进行类似工作。英特尔公司于2022年11月推出了一款名为FakeCatcher的产品，据称可以通过观察受试者皮肤因血液流动而引起的微妙颜色变化，以96%的准确率检测伪造视频。包括微软公司在内的公司承诺在使用其人工智能工具创建的图像中嵌入数字水印，以区分它们是否为伪造。

参考书架

• 调查人员是如何解决拜登深度伪造视频问题的。
• 谷歌和微软如何加速人工智能深度伪造色情视频。
• Swift事件已经引发了新的紧迫感，以找到解决长期存在的人工智能领域问题的方法。
• 关于生成式人工智能和人工智能监管的相关快速了解。
• 彭博视频介绍了Lyrebird，这家人工智能公司可以替你说话。
• 来自伦敦大学学院的研究表明，人类无法检测出超过四分之一的深度伪造音频录音。