人工智能伪造裸照如何将莱维敦变成深度伪造战场：播客 - 彭博社

插图：易卜拉欣·拉因塔卡思 订阅《莱维敦》请访问iHeart播客、苹果播客、Spotify或您获取播客的任何平台。也可在终端收听。欢迎收听《莱维敦》首期节目。更多播客系列的详细信息请点击此处*，下方可阅读本期文字实录。*

凯拉仍记得那个发现改变人生的网站的时刻。那是2020年，20岁的她正在童年卧室里熬过疫情。父亲举着手机走进她的房间。

“这是什么？“他问道。

父亲给凯拉看了一张照片——这是他在网上搜索女儿名字时跳出来的。

凯拉记得这张照片拍摄于她14岁左右，当时她穿着蓝色泳衣站在朋友家后院。此刻父亲展示的正是这张照片——只不过泳衣消失了。

“照片里全裸的我。准确地说不是我，是别人身体部位被拼接在我身上的样子，“凯拉在接受彭博社、Kaleidoscope与iHeart播客联合制作的全新六集纪录片播客《莱维敦》采访时回忆道，该节目于今日首播。

这张照片被发布在一个色情网站上——这是她最终在那里发现的几张经过处理的照片之一，同时还有她的姓名和联系方式。还有关于她的露骨和贬低的评论。发布这些伪造照片的人正在鼓动人们直接骚扰她。

“我只是想弄清楚，这到底是从哪里来的？”她回忆道。“为什么会发生这种事？”

凯拉后来得知，她是全球越来越多的女性之一，她们的照片被人工智能工具制作成了未经同意的色情内容。制作深度伪造色情内容的技术在短短几年内迅速发展，使人们能够在手机上几分钟内创建图像。已经创建了数十亿张这样的图像。法律尚未跟上。在凯拉发现后，她家乡纽约莱维敦及其周边越来越多的人会问：这是谁干的？这不应该是非法的吗？

在本系列中，记者奥利维亚·卡维尔和玛吉·墨菲通过受害女性的叙述、寻求法律立足点的调查人员以及试图关闭专门托管网络暴力骚扰活动的网站的在线义警，讲述了一个全球性的深度伪造色情内容的起源故事。

第一集文字记录：我……但不是我

我们的文字记录由软件和人工编辑共同生成，可能与音频有细微差异。在印刷引用前请确认音频内容。本系列涉及未成年人和暴力的性化图像。请在收听时注意。

奥利维亚·卡维尔 我们能从头开始吗？这一切对你来说是如何开始的？

凯拉 所以，我可以回顾一下。我记得不知怎么的，我Instagram和VSCO上的所有照片都出现在这个网站上。有一张我穿泳衣的照片——嗯，那原本是我穿泳衣的照片——在我朋友的后院，但后来泳衣不见了，照片里的我变成了全裸。准确地说，不是我本人，而是我的身体被拼接上了别人的部位。就是胸部和其他身体部位，呃，完全赤裸，看起来却和我的身体如此相似。

我的社交媒体上有那么多不同的照片，基本上都被搬到了一个色情网站上。

我当时一直在想，这到底是从哪里来的？他们是怎么找到我的东西的？我不让不认识的人关注我。所以，我总觉得，哦，这一定是我认识的人。但当你认识学校、足球队那么多人时，怎么找出是谁干的呢？

奥利维亚·卡维尔 你当时有没有怀疑过是谁做的？

凯拉 完全没有。我一直在想，为什么会发生这种事？这是谁干的？

奥利维亚·卡维尔 凯拉当时20岁，和父母住在一个曾经象征美国梦的小镇——长岛的莱维敦郊区。

奥利维亚·卡维尔 我们正开车在莱维敦转悠。这里有很多白色尖桩栅栏，还有很多美国国旗——

奥利维亚·卡维尔 这里有种时光倒流的感觉。

(档案新闻片：这里是莱维敦——史上最非凡的住宅开发项目之一。)

奥利维亚·卡维尔 这种美国景象会让你想起1950年代——千篇一律的独栋住宅。就像有人对着理想郊区住宅按下了复制键，然后一条街接一条街地反复粘贴。

(新闻片：比尔·莱维特想到的主意是：为何不将其他美国工业达到效率与服务巅峰的相同原则，应用到房屋建造中呢？)

奥利维亚·卡维尔 莱维敦是为二战归来的退伍军人建造的，堪称白人郊区的典范：完美的房屋，修剪整齐的草坪。

(新闻片：在这片广阔区域星罗棋布的商业中心里，各类商品和服务一应俱全。鞋店、杂货铺…)

奥利维亚·卡维尔 如今我们常把未来描绘成数字世界。算法与代码构成生活的架构。但在那个年代，莱维敦就是人们想象中的未来——

奥利维亚·卡维尔 这里充满郊区特有的安宁感。你知道，就是那种感觉——这地方根本不会发生什么大事。

奥利维亚·卡维尔 然而在这完美秩序的表象之下，我在这里发现了一群女性正在面对她们都不想要的新现实。一个逐渐失控的技术现实。

奥利维亚·卡维尔 这场景本不该出现在恐怖片里，但现实却偏偏如此上演。

奥利维亚·卡维尔 但这不是老套的恐怖故事——那种一群青少年被追杀到只剩最后一人的剧情。在这个故事里，他们反转了套路，团结起来与出人意料的全球盟友并肩反击，迫使执法部门和科技公司不得不正视问题。

由iHeart播客、彭博社与Kaleidoscope联合呈现，这里是*《莱维敦》*。我是奥利维亚·卡维尔。

奥利维亚·卡维尔 今年夏天，我和制片人朱莉娅·纳特驱车前往长岛，在凯拉家中见到了她。

(敲门声)

奥利维亚·卡维尔 我听到音乐声。

(开门声)

嘿，凯拉！真高兴又见到你。

凯拉 我也很高兴见到你。

奥利维亚·卡维尔 最近感觉怎么样？

凯拉 挺好的。

朱莉娅·纳特 我先快速检查下录音电平。

凯拉 哦——需要我把鸟放到其他房间吗？

朱莉娅·纳特 我都没注意到鸟。天啊，是只鸟！

奥利维亚·卡维尔 凯拉像个小爆竹，身材娇小，顶着一头鲜艳的发色——每次见她头发颜色都不一样。她身上布满纹身和穿孔。

这个，是我最喜欢的之一。它叫《告诉我关于明天》。每当我在抑郁状态或心理状态不佳时，我就会播放这首歌。它告诉你要向我诉说明天，诉说未来生活中即将发生的事情。当我经历那段困境时，我的心理状态非常糟糕，而这首歌告诉我，你还有明天，你可以拥有明天。

奥利维亚·卡维尔 听起来很多纹身对你来说很重要，因为它们代表着你向前迈进、疗愈或如你所说的走出困境。现在你愿意谈谈这个吗？

凯拉是的……我记得当时我只是躺在床上。那是一个深夜。

奥利维亚·卡维尔 那是2020年3月，新冠疫情刚开始的时候。她刚刚高中毕业……和父母一起被困在家里。

凯拉我在那个角落。我的床靠着墙。我只是躺在床上。我很确定我当时在刷Instagram或Snapchat之类的。

奥利维亚·卡维尔 她听到她爸爸从客厅走上楼梯。

凯拉我总是能听到有人上楼梯的声音，而且他会敲门。他总是会敲门。所以他敲了门……然后就直接进来了。我第一反应是，我是不是惹上麻烦了。但我能看出来他只是很困惑。而且他有点犹豫要不要靠近我。我能感觉到。

然后他就这样，什么——这是什么？

奥利维亚·卡维尔这是什么？他给你看的是什么？

凯拉我想是那个网站。

奥利维亚·卡维尔那是她伪造的裸照，旁边还有一个投票，让网站用户排名他们想对她做什么性行为。接下来的部分很露骨，可能难以入耳。

凯拉那是……嗯……我一直很难说这些部分。嗯，是“喝她的尿”，“挤她的奶”，“让她喝我的尿”……还有别的，我记不太清另一个是什么了。

奥利维亚·卡维尔所以他们是在排名想对你做什么性行为？

凯拉是的。对。

奥利维亚·卡维尔她继续滚动……情况变得更糟。

凯拉我们会看到他们发布的内容，比如他们的裸照和他们……对着我们的照片自慰和射精，甚至还有我们的照片旁边有他们的阴茎和精液的照片。然后还有一些文字，比如“强奸她”。

我爸爸非常困惑。他问我这是什么，怎么会在上面，我不知道，因为我以前从未见过，嗯，我显然告诉了他。……

所以我们就是这样发现了这个网站。

奥利维亚·卡维尔凯拉说她爸爸是个大块头。像她一样个性鲜明。笑声很大。

那时，他是拿骚县警察局的一名警官——确切说是巡警。他不想为这个播客接受采访。但凯拉说他非常保护自己的孩子。这意味着他会定期在谷歌上搜索孩子们的名字——在互联网上查找与他们相关的任何信息。

凯拉特别是对我来说，我当时在踢竞技足球。所以当我上大学并踢球时，他就很紧张——比如当他们搜索东西时，他不想让他们看到错误的内容，或者，你知道，就像……我们发现的那些东西。

奥利维亚·卡维尔当他给你看手机时，手机上的照片是什么？你第一眼看到的具体照片。

凯拉我几乎可以肯定，就是那张，嗯，比基尼被从我身上脱掉的照片。那只是我裸体的样子。好吧，不是我，而是我的身体部位上拼接了别人的身体部位，看起来和我的一模一样。

奥利维亚·卡维尔有没有那么一刻，哪怕是一瞬间，你以为那是你裸体的照片？

凯拉是的。我绝对——一开始我就像，“天哪，那是我。” 比如，他们是怎么得到那张照片的？但后来我想，不，那是在我朋友的后院，我明明穿着比基尼。我记得那件比基尼。是蓝色的，有点网状，所以我觉得他们很容易完全修改那张照片。但我立刻就想，“哇——他们怎么会有我的那张照片？” 比如，我从来没有拍过那样的照片。它看起来如此逼真，令人害怕。

奥利维亚·卡维尔这个网站名为"射在印刷照片上点康姆”。它鼓励会员们完全按照标题暗示的那样做：打印出女孩和年轻女性的照片对着自慰，然后将用户勃起或射精的照片叠加在原图上发布。他们称这种行为为……“献礼”。

凯拉要让我爸爸发现这一切，我不知道该怎么形容，他根本不明白发生了什么，我自己甚至都不知道发生了什么。然后爸爸突然进来看到那些——没人愿意看到那种东西。但被自己父亲看到？那已经不止是尴尬了，这个词根本不足以形容。简直是无法想象的可怕。

奥利维亚·卡维尔我多希望能告诉你这个网站藏在暗网上，用户需要下载特殊浏览器或通过隐秘的网络入口才能访问……但事实并非如此。它就明目张胆地存在于公开网络。

凯拉的信息也同样暴露在光天化日之下。网站上的帖子包含她的真实姓名，这正是她父亲能找到的原因。有时上传到网站的是未经修改的真实照片——属于复仇色情类型。但更多时候，原始照片是从像凯拉这样无辜的社交媒体帖子中获取的。然后网站用户将这些图像制作成未经同意的色情内容，其中经常涉及未成年人。

这种照片篡改对凯拉来说是新鲜事。但对我不是。我开始越来越多地看到这类现象。

过去几年里，我一直在报道大型科技公司和社交媒体平台——它们正在采取或未采取哪些措施来防止对儿童的伤害，设立了哪些防护措施来阻止此类事件发生。而随着人工智能的兴起，这类图像正以惊人的速度激增。我不断听到更多关于这项新技术阴暗面的故事——关于深度伪造的种种。

(档案音频：网络上的篡改视频，被称为深度伪造…深度伪造的兴起…计算机生成的视频被称为深度伪造…深度伪造视频让人们看起来说了他们从未说过或永远不会说的话…我们越来越难以相信自己的眼睛和耳朵….)

奥利维亚·卡维尔 当我第一次听说莱维敦案时，我知道报道将带我涉足一些令人不安但重要的领域——从生成式AI的崛起到深度伪造的爆炸式增长，再到网络上的儿童性虐待材料。我也知道，要找到受害者并独自深入这个网站会非常困难。因此，我向同事寻求帮助。玛吉·墨菲——她是彭博社的科技记者。

玛吉·墨菲 当时，我记得我正在报道一种新的生成式AI工具，人们用它来制作儿童性虐待材料。

我通常写那些隐藏在互联网边缘的人。比如勒索全球企业的青少年黑客，或者利用AI诈骗的网络罪犯。不久前——当我开始报道这个领域时——深度伪造还不太容易制作，而且总有一些破绽。如果你看得足够久，就会发现有些不对劲——但它们确实吸引了你的注意——

(档案音频： 随着AI的发展，出现了如此多的创新…)

玛吉·墨菲 但在过去几年里，机器学习取得了快速突破…

(档案音频：亚马逊向初创公司Anthropic投资高达40亿美元…据报道微软向Open AI投资100亿美元…)

玛吉·墨菲 事实上已有数亿美元资金涌入基于人工智能的图像生成软件…

(档案音频： 微软、亚马逊，你能想到的科技巨头都在积极投资年轻的人工智能初创公司，因为他们试图…)

玛吉·墨菲 这使得制作任何你能想到的逼真照片或视频的成本大幅降低且更便捷。如今网络上的深度伪造图像已达数百亿之巨。

虽然你可能不会感到意外，但据估算，其中超过90%的深度伪造内容——这个比例极其惊人——都属于色情制品。

通常情况下，被制作成色情图像的人并未同意自己的面容、身体或声音以这种方式被篡改。许多人甚至不知道这些关于自己的图像存在。但正如奥利维亚和我所了解到的，凯拉的父亲通过常规名字搜索发现了这个网站——现在他和凯拉都知道了它的存在。

凯拉 看到人们对当时才13、14岁的我的身体评头论足，我当场就哭了。我记得当时更像是自言自语地质问：“为什么这种事会发生在我身上？到底怎么回事？这真的是现实吗？“我对自己的身体产生了背叛感，因为那些图片看起来太真实了。

玛吉·墨菲 该网站用户还互相怂恿对图像发表评论，甚至骚扰照片中的人物。

凯拉简直无法想象人们竟能说出——多恶心啊——比如让你强奸我或挤我的奶这样的话。我记得很多是针对我的牙套，因为我戴牙套直到11年级，脸上还有些痘痘。我看到有人说他们喜欢我的牙套脸和脸上的痘痘，他们更喜欢年纪小的。

奥利维亚·卡维尔你是否主动在网站上搜索所有关于你的照片，并查看其他照片和人们的评论？还是你根本无法直视这些内容？

凯拉不，我经常查看。我在搜索是否有新照片被上传。

奥利维亚·卡维尔在了解到这个网站后，凯拉最大的疑问是：谁干的？是谁费尽心思从社交媒体上搜集她的照片，编辑成裸照…然后发布在这个网站上，还鼓动他人骚扰她？她希望这一切停止。于是她暂时停用了VSCO，一个照片分享应用。

凯拉因为我开始注意到那是他们获取我照片的主要来源。

奥利维亚·卡维尔对你来说，这些画面无法从记忆中抹去。那是你的身体，却被人以裸照形式发布在网上。你是如何挺过来的？如何应对的？

凯拉我真的只是把它抛到脑后，继续生活，尽量不去想——努力不去想。当时我们还处于封锁状态，所以我经常陷入思绪，但也和家人在一起。我们基本上都选择把它埋藏在记忆深处，假装这件事从未发生过。

玛吉·墨菲凯拉没有告诉任何人这件事——甚至没有告诉她的朋友们。尽管她的父亲联系了他在拿骚县警察局的同事们。他想知道：他们能做些什么来帮助凯拉？

凯拉我爸爸确实向他的工作伙伴们寻求了建议——他确实问过他们能做些什么，但他的伙伴们真的不知道该如何处理，因为这类网站很难追踪，它们都是匿名的，而且它们本质上是一个色情网站，所以很难追踪到原始所有者或类似的信息。

玛吉·墨菲请记住，这是在2020年发生的，当时"深度伪造"这个词还没有像现在这样广泛传播或被认可。而且当时没有任何法律或纽约州的法律来防止真实人物的伪造色情图像。

凯拉在我爸爸已经尝试联系警察局和他的伙伴们，而他们只是告诉我们，他们真的无能为力之后，我真的不知道还能做什么。经历投诉并尝试完成所有步骤——我只是觉得在那一刻我还没有足够坚强。

奥利维亚·卡维尔随着时间的推移，你能描述一下你对那个网站和那些照片的感受是如何变化的吗？

凯拉过了一段时间，我不再看那个网站——把它抛在脑后。但它完全改变了我对自己身体的看法。

有一种症状叫做身体变形障碍。你的大脑会改变你看待自己身体的方式。而我完全经历了这个过程。我曾经对自己的身体非常自信，因为我是一名运动员。我感觉与自己的身体非常协调，但后来一切都彻底改变了。

我开始出现进食问题，无法吃完一顿完整的饭。吃完后我会感到恶心。我甚至吃不下三口食物。吃两口就会对自己吃的东西感到极度厌恶，也对自己的身体需要食物感到恶心。这完全改变了我这个人。我彻底陷入了抑郁，完全不像我自己。

玛吉·墨菲 而故事本可以在这里结束。凯拉的假照片仍在网上。她和她的父亲对此无能为力。她那个安全的小郊区世界被彻底颠覆了。

但十个月后，凯拉的电话响了。

凯拉 我在服装店做老工作时接到了一个电话。那是在新年前后。我记得大概是7点40分。我站在收银台后面，店里非常安静，所以我就在看手机。我们本来不应该用手机的。但我记得当时我正在看手机，然后看到一个同学——是她爸爸的名字出现在我的手机上，这让我觉得非常奇怪，因为我想，我甚至没有这个号码，他们为什么给我打电话，我只记得那个姓氏。

我接了电话，说：“你好”——她说：“嗨，我是（空白）。”她说：“我在网站上看到你，我只是想告诉你我也在这个网站上。”

我记得当时直接离开了收银台，心里想着：“好吧，那上面还有多少人？你觉得会是谁？”就在这时她说：“……我想我已经猜到是谁了。”

奥利维亚·卡维尔 顷刻间，凯拉的故事变得宏大起来。从那一刻起，它将超越她的卧室，越过高中校园，离开莱维敦，跨越郡县，最终席卷全球……

玛吉·墨菲 她不知道也无法知道的是——但通过我们的调查，奥利维亚和我逐渐发现——一个全球性的网络犯罪集团正在利用迟钝的司法系统漏洞，而被一群愿意冒警方和检察官不敢承担风险的网络义警和黑客追捕着。

这个故事将我们从纽约带到新西兰的小镇，穿越互联网最黑暗的角落，又回到上世纪中叶那些排列整齐的住宅卧室里。

本季《莱维敦》将呈现：

“有些关于朋友的现实让人难以接受。你总以为圈子里的人——是被你奉上神坛的。”

“这个人纯粹是为了毫无理由地毁掉他们的生活。这是一种新型犯罪——对我们来说本身就是灰色地带。”

“有些警察会坐等报警电话然后出警。而我是主动追猎罪犯的人。”

“他们称之为执法与技术之间的军备竞赛。但现实是——我们正在输。我们彻底处于下风。”

奥利维亚·卡维尔 本系列报道由玛吉·墨菲和我——奥利维亚·卡维尔共同采编主持。由Julia Nutter领导的万花筒团队制作，Neda Toloui-Semnani编辑，Dara Look-Potts监制，Kate Osborn担任执行制片。原创音乐与混音由Steve Bone完成。

莱维敦历史影像资料由Screenocean Clips & Footage提供。

彭博社编辑团队由Caitlin Kenney和Jeff Grocott领衔。Samantha Stewart参与联合报道。Sage Bauman担任彭博社播客执行制片人兼负责人，Kristin Powers为高级执行编辑。

来自iHeart的执行制片人为Tyler Klang和Nikki Ettore。《莱维敦》由彭博社、万花筒及iHeart播客联合出品。若喜欢本节目，请关注我们并推荐给朋友。