亚马逊的贝索斯、贾西可能被迫在FTC调查中作证 - 彭博社

杰夫·贝索斯

摄影师：保罗·埃利斯/盖蒂图片社

一台ASML高NA极紫外系统来源：米歇尔·德·赫尔/ASML

亚马逊公司未能排除包括亿万富翁创始人杰夫·贝索斯和首席执行官安迪·贾西在联邦贸易委员会调查中作证的请求。

该公司上个月向FTC提交了一份请愿书，称该机构的信息和采访要求“过于繁重”。

ASML控股有限公司正在展示其最新的芯片制造机器，一台价值3.5亿欧元（3.8亿美元）的设备，重量相当于两架空客A320飞机。

媒体机构上周五参观了这套被称为高NA极紫外系统的设备。英特尔公司已经下订单购买了这台机器，并于去年12月底将第一台运送到俄勒冈州的工厂。该公司计划于2025年底开始使用这台机器生产芯片。

世界充斥着深度伪造视频、音频或图片，其中人们似乎在做或说他们没有做或说的事情，或者在他们没有去过的地方。大多数深度伪造是通过将名人的脸部映射到其他人身上而制作的明显视频和图片。有些被用来欺骗消费者，或者损害政客和其他公众人物的声誉。人工智能的进步意味着只需在键盘上轻敲几下就能制造出这些内容。担忧的政府正在寻找方法来反击。

1. 什么措施正在采取来对抗深度伪造？

2月8日，美国联邦通信委员会宣布，公司使用AI生成的语音进行电话轰炸是违法的。这项禁令是在FCC对负责制作总统乔·拜登音频深度伪造的公司发布了停止和解令两天后颁布的。新罕布什尔州居民在该州总统初选前收到了一条电话轰炸，听起来像是拜登敦促他们留在家里，“为11月的选举保留你的选票。”这个声音甚至说出了拜登的一个标志性短语：“真是一派胡言。”目前美国没有联邦法律禁止深度伪造。一些州已经实施了关于深度伪造色情内容的法律，但它们的适用在全国范围内不一致，这使得受害者难以追究制作者的责任。欧盟提出的AI法案将要求平台将深度伪造标记为此类。

2. 深度伪造在哪些地方还出现在新闻中？

一月底，流行歌手泰勒·斯威夫特的深度伪造色情图片在社交媒体上广泛传播，引起了她众多粉丝的愤怒。这一事件引起了白宫的关注。当月早些时候，漫威系列中的17岁女演员Xochitl Gomez发表了声明，报告称她在社交媒体上发现了带有她脸部的性暴力深度伪造视频，并未成功将这些内容撤下。

3. 深度伪造视频是如何制作的？

它们通常是使用训练有素的AI算法制作的，该算法经过训练，能够识别特定人物真实视频录音中的模式，这个过程被称为深度学习。然后可以将一个视频的元素，比如人的脸，替换到另一段内容中，而不会看起来像是一个粗糙的蒙太奇。当与语音克隆技术一起使用时，这种操纵最具误导性，该技术将某人说话的音频剪辑分解为半音节块，然后重新组合成新的单词，看起来好像是原始录音中的人说的。

Midjourney AI生成的教皇弗朗西斯的假照片，左边，和真实的教皇弗朗西斯的照片。来源：Midjourney；AFP/Getty Images### 4. 深度伪造技术是如何兴起的？

这项技术最初是学术界和研究人员的领域。然而，Vice出版的Motherboard在2017年报道称，一个名为“deepfakes”的Reddit用户使用开源代码设计了一个制作假视频的算法。Reddit封禁了这个用户，但这种做法却传播开来。最初，深度伪造需要已经存在的视频和真实的声音表现，以及熟练的编辑技巧。如今的生成式AI系统允许用户从简单的书面提示中产生令人信服的图像和视频。让计算机创建一个视频，让某人张嘴说话，它就会出现。随着AI公司将这些新工具应用于网络上可用的大量素材，从YouTube到库存图像和视频库，数字伪造变得更难被发现。

5. 有哪些其他深度伪造的例子？

中国网络 trolls 散布了操纵过的图片，声称夏威夷茂宜岛上的八月野火是由美国正在测试的秘密“气象武器”引起的。2023年5月，一张在线传播的图片显示五角大楼着火后，美国股市短暂下跌。专家表示，这张假图片具有由人工智能生成的特征。那年二月，出现了一段制造的音频剪辑，听起来像尼日利亚总统候选人阿提库·阿布巴卡在密谋操纵当月的选举。2021年，社交媒体上发布了一段一分钟长的视频，似乎显示乌克兰总统沃洛迪米尔·泽连斯基告诉他的士兵放下武器向俄罗斯投降。

6. 这里存在什么危险？

人们担心深度伪造最终会变得如此令人信服，以至于不可能区分真实和虚假。想象一下，欺诈者通过制作伪造的视频，显示首席执行官发布公司更新，或者制造出士兵犯下战争罪行的视频，从而操纵股价。政治家、商业领袖和名人尤其面临风险，因为有很多他们的录音可供使用。这项技术使所谓的复仇色情成为可能，即使没有实际的裸照或视频，女性通常成为目标。一旦视频在互联网上走红，几乎不可能控制。另一个担忧是，关于深度伪造的传播会让那些真的被拍到做或说令人反感或违法的事情的人更容易声称针对他们的证据是伪造的。一些人已经在法庭上使用深度伪造辩护。

7. 还有什么其他方法可以抑制深度伪造技术？

生成深度伪造技术的机器学习不容易被逆转以检测它们。但一些初创公司，如总部位于荷兰的Sensity AI和总部位于爱沙尼亚的Sentinel，正在开发检测技术，许多美国大型科技公司也在进行类似工作。英特尔公司在2022年11月推出了一款名为FakeCatcher的产品，据称可以通过观察受试者皮肤因血液流动而引起的微妙颜色变化，以96%的准确率检测伪造视频。包括微软公司在内的公司承诺在使用其AI工具创建的图像中嵌入数字水印，以区分它们是否为伪造。

参考书目

• 调查人员是如何解决拜登深度伪造问题的。
• 谷歌和微软如何加速AI深度伪造色情内容。
• Swift事件已经引发了AI领域长期关注的问题的新紧迫性。
• 有关生成AI和AI监管的相关快速了解。
• 彭博视频介绍了Lyrebird，这家AI公司可以替你说话。
• 来自伦敦大学学院的研究表明，人类无法检测到超过四分之一的深度伪造音频录音。