关于深度伪造的坦白引发疑问：这算犯罪吗？播客 - 彭博社

插图：易卜拉欣·拉因塔卡思 订阅《莱维敦》播客，请访问iHeartPodcasts、苹果播客、Spotify或您获取播客的任何平台。也可在终端上收听。欢迎收听《莱维敦》第四集。关于本播客系列的更多详情请点击此处*，下方附有本集文字稿。*

2021年9月5日傍晚，两名警探驾车穿过莱维敦一处安静的社区，在一栋浅蓝色的小屋前停下。

此时距离莱维敦数十名年轻女性发现自己的面容被合成到网络骚扰网站的色情图片上已过去八个月。就在当天早晨，又有一名女性来到当地警局报案称自己成为目标。

“当时我和搭档对视一眼，[说]这事必须立刻了结，”首席警探蒂莫西·英格拉姆在《莱维敦》第四集中回忆道。他们已调查数月，但此刻终于获得了看似关键的证据——由一名受害者亲手递交。所有线索都指向女孩们就读的道格拉斯·麦克阿瑟高中的前同学……帕特里克·凯里。

英格拉姆和他的搭档敲响了门。据英格拉姆回忆，凯里开了门，他的母亲在一旁看着。探员们念出了发布在网站上的一则谋杀强奸幻想内容。“他直视着我们的眼睛说，‘是的，是我干的’“英格拉姆说道。

但供认仅仅是开始。现在检察官们需要判定凯里的行为是否构成违法。在拿骚县地区检察官办公室，检察官梅丽莎·斯坎内尔和凯尔西·洛雷有90天时间来确定是否有任何旧法律适用于这种全新科技。

第四集文字实录：“这怎么不算违法”

我们的文字实录由软件和人工编辑共同生成，文本与音频可能存在细微差异。印刷引用前请核对音频内容。本系列涉及未成年人性化影像及暴力内容，收听时请注意。

奥利维亚·卡维尔 纽约警探蒂莫西·英格拉姆正在执行逮捕任务的路上。自新年夜多名年轻女性首次报警以来，他调查莱维敦深度伪造案件已有八个月。他受够了。傍晚五点钟，蒂姆和搭档驾车穿过莱维敦安静的社区，在一栋淡蓝色科德角风格的小屋前停下。

蒂莫西·英格拉姆警探 看起来就是普通房子。草坪修剪得很整齐…

奥利维亚·卡维尔 这栋房子后院与一所小学共用围栏。

英格拉姆探员 那只是一栋普通的房子，你根本想不到里面会发生这种事。

奥利维亚·卡维尔 那天早上，又一位年轻女性走进当地警局，讲述了一个如今已耳熟能详的故事——与许多其他人的遭遇如出一辙。但这次，侦探们已经掌握了一些关键证据。证据显示，这些帖子的幕后黑手是这些女性都认识的一个男人——她们的高中同学帕特里克·凯里。

英格拉姆探员 当时我和搭档对视一眼，[说]：这事必须到此为止。不管我们是去他家后他闭口不言，还是坦白承认。无论如何他都要跟我们走。我们到他家敲门时，是帕特里克·凯里开的门。我记得他开门时好像没穿上衣。我们表明侦探身份后，要求他出来谈谈。

于是他转身告诉母亲我们来了，他母亲也跟了出来。他坐在门前台阶上，母亲站在身旁。我们问他是否知道来意，他说不知道。我们说：好吧，我们想和你聊聊网上的一些事。我说：现在我要把这些念给你听。

我要让他亲耳听听自己写下的内容。我想看看当别人知晓他的所作所为时，他会有什么反应。

就在那时，我们开始阅读这份谋杀/性侵幻想记录。读到大约中间部分时，他母亲突然让我们停下。她盯着他，对他说了些严厉的话。而他直视着我们的眼睛说：没错，是我干的。

奥利维亚·卡维尔 他母亲具体对他说了什么严厉的话？

英格拉姆探员呃，我记得她说的是"你他妈就是个混蛋”。

奥利维亚·卡维尔 哇。

英格拉姆探员是的。那一刻我们不需要再问什么了。他未经任何审问就承认了全部罪行。

奥利维亚·卡维尔 我们曾尝试就本报道采访帕特里克及其家人，但遭到拒绝。

奥利维亚·卡维尔 你还记得他被捕时你的反应吗？

塞西莉亚 记得。我震惊于警方竟掌握了足够证据逮捕他。

奥利维亚·卡维尔 距离帕特里克时断时续的高中好友塞西莉亚向警方作证已过去数月。她知道调查仍在继续，但以为不会有什么结果——

塞西莉亚——因为事发时，我觉得那些根本不够定罪。那虽然是威胁，是捕食行为，很危险，但我不认为法律会这么看。我不觉得他们会认可——不认为他们会把这看作需要惩处监禁的罪行。我早就不抱希望了。所以得知他被捕时，我简直震惊极了。

奥利维亚·卡维尔 塞西莉亚所担忧的——关于帕特里克·凯里对她所做之事是否构成犯罪——正是本案检察官们反复纠结的核心问题。帕特里克·凯里的行为固然恶劣…但这算犯罪吗？

玛吉·墨菲由iHeartPodcasts、彭博社与Kaleidoscope联合呈现，这里是莱维敦。我是玛吉·墨菲。

奥利维亚·卡维尔 我是奥利维亚·卡维尔。

奥利维亚·卡维尔 当晚帕特里克被从门廊拖下，戴上手铐押进警车，带进拿骚县警局一间3米见方的审讯室。他交出了电子设备并签署了认罪书。警探们质问帕特里克的核心问题是：为什么？他为何这样做？

这也是我和玛吉想追问帕特里克的问题。帕特里克及其前律师拒绝为本播客接受采访。但我们掌握了他被捕当晚的供词。帕特里克首先承认自己是该网站多个账号的唯一使用者，自2019年高中毕业季起便活跃于此。

帕特里克·凯里（配音演员朗读） 我开始使用这些账号是因为生活无聊至极，找不到任何人生乐趣。

奥利维亚·卡维尔 此为配音演员逐字朗读的帕特里克供词。

帕特里克·凯里（配音演员） 我沉迷网络色情内容，逐渐找到诸如CumOnPrintedPics点com这类网站。

奥利维亚·卡维尔帕特里克称他使用该网站超过两年——上传高中女同学的照片并附上她们的社交媒体账号等联系方式。他表示自己曾鼓动其他用户，用他的话说——

帕特里克·凯里（配音）"——让这些女性陷入抑郁，吓得她们不敢使用任何社交媒体。“往那个网站发布这些内容让我感到刺激，因为我知道自己做的是错的，知道我正在给这些女孩制造恐惧和难堪。这种明知故犯的背德感让我体会到活着的实感，也清楚自己终有一天会落网。

奥利维亚·卡维尔他形容这几乎成了一种瘾——循环往复的刺激寻求、愧疚、再寻求刺激…

**帕特里克·凯里（配音）**在这个网站发帖期间，我确实不时对给女孩们造成的恐惧和难堪感到懊悔。但等懊悔感消退，我又会变得麻木无聊，再次寻求明知故犯的发帖快感。我为自己给所有受害者带来的恐惧、痛苦和羞辱道歉。

梅丽莎·斯坎内尔我翻阅着这份供词，当时就震惊了。太恶劣了。读起来令人极度不适。

奥利维亚·卡维尔帕特里克被捕后的周一早晨，地区助理检察官梅丽莎·斯坎内尔正在办公。梅丽莎有起诉性犯罪案件的经验，同时担任网络犯罪部门主管。这份特殊报告的细节令她触目惊心。

梅丽莎·斯坎内尔 我的工作常要面对骇人听闻的事，无论是过往案件还是现在处理的案子，都涉及相当恶劣的内容。所以有时我的判断会失衡，这时找他人确认就特别有用，比如问"这事真有那么糟吗？会更严重吗？"——就像在确认自己的反应是否正常。

奥利维亚·卡维尔 她看完帕特里克的供述后，冲过走廊找到同事凯尔西·洛雷。

凯尔西·洛雷 太令人震惊了。他的言行简直…那种冲击感挥之不去。在我看来那个网站早已超出色情范畴，根本是在打压女性——说白了就是贬低她们，网站的核心就是人格践踏。

奥利维亚·卡维尔 凯尔西是另一位助理检察官，通常负责敲诈勒索案，比如有组织犯罪、毒品走私、勒索等。但本案不同，更带个人色彩——凯尔西毕业于麦克阿瑟高中，曾与受害女生走过同样的走廊。她和梅丽莎研究指控条款时发现，这仅构成一系列骚扰和淫秽轻罪，意味着帕特里克最多判一年。她们认为其行为性质恶劣得多。

梅丽莎·斯坎内尔 有些帖子他直接附上女生全部个人信息，煽动他人发布死亡威胁或强奸恐吓，而真有人响应这些暴力幻想。什么时候会有人站出来说：够了，我要阻止这一切？

奥利维亚·卡维尔 他们认为他至少应被指控一项重罪。但要做到这一点，他们必须提出新的指控。帕特里克当时已从警方拘留中获释，回到家中等待下一步行动。纽约法律只给了检察官90天时间来确定这些新指控的内容。

梅丽莎·斯坎内尔 凯尔西和我时间紧迫——

奥利维亚·卡维尔 ——并且要确保指控成立

梅丽莎·斯坎内尔 因为如果指控被驳回，我们就无计可施了。我们无法再以其他罪名起诉他。

奥利维亚·卡维尔 检察官不确定帕特里克的行为——制作并发布这些篡改过的图片——是否构成犯罪，更不用说重罪了。

梅丽莎·斯坎内尔 这太恶劣了。这应该是非法的。但这算什么？这是什么罪行？

奥利维亚·卡维尔 他发布了经过处理的少女裸照。这怎么会不违法？

梅丽莎·斯坎内尔 因为它们不是真实的。

奥利维亚·卡维尔 帕特里克可以辩称这些帖子是艺术表达，受到第一修正案的保护。这在美国法庭上尚未有定论。因此，检察官需要继续寻找。他们需要找到不属于言论自由范畴的证据。

他们获得了帕特里克所有社交媒体账户的搜查令——从Instagram到即时通讯应用Kik的一切——并开始检查他的手机和平板电脑；警方在地下室电视柜的顶层抽屉里找到了这些设备。

梅丽莎·斯坎内尔 冲向赛场——

凯尔西·洛雷 我们做的第一件事就是开始浏览网站，首先试图保存它。我们当时不知道他已经被捕，他会回去吗？他会试图删除内容吗？

梅丽莎·斯坎内尔 那时我们不知道接下来要做什么。

奥利维亚·卡维尔 他们必须先确认帕特里克针对的所有人，因为事实证明，他骚扰的女性比报警的要多得多。

梅丽莎·斯坎内尔 一开始我们给她们都起了昵称，因为根据我们浏览方式，她们的名字可能要到后来才能对应上。你知道他确实附上了她们的名字。但我们可能不是按时间顺序查看，而是按用户名或其他信息，所以我们给这些年轻女性起了很多昵称，比如，哦不，我们之前见过她，那个——我们有一个叫“眼线笔”的，因为她在每张照片里的眼线都画得恰到好处。所以我们说，哦，“眼线笔”又出现了，好吧，最后我们才弄清楚“眼线笔”的真名，然后才恍然大悟。

当我们一起浏览网站时，部分原因是为了互补彼此的优缺点，对吧？你知道，我有点脸盲。所以她更擅长辨认，比如“不，我们之前肯定见过她”之类的事情。另外，虽然听起来有点夸张，但也是为了精神支持。浏览那个网站非常困难，你需要和别人一起完成。

奥利维亚·卡维尔 两位女性分工合作。凯尔西主要负责研究是否能以重罪起诉他。她拿起厚厚的州刑法典，开始一页页翻阅。

凯尔西·洛雷 我真的就是把书从架子上拿下来，从头开始逐条查看，即使某些条款看起来明显不适用。比如这显然不是抢劫案，但我还是查阅了每一条法规，并整理成文件记录：有没有任何条款能勉强套用，让我们可以据此立案？

奥利维亚·卡维尔 梅丽莎则创建了详细的档案——一份恐怖事件目录。

梅丽莎·斯坎内尔 用多张电子表格追踪每篇帖子：谁出现在哪篇帖子里、说了什么内容、是否有符合仇恨犯罪的言论、是否涉及种族歧视…我们常说这就像把方榫头塞进圆卯眼。明知这种行为恶劣，却尚无法律条款能直接适用。但我们该从哪个角度突破？怎样才能让案件成立？

奥利维亚·卡维尔 接下来几周，凯尔西和梅丽莎成了研究帕特里克·凯里作案手法的专家。她们发现他会锁定受害者，从社交媒体上窃取照片。当部分女性发现异常将账户设为私密后，他会持续检查她们是否又转为公开状态。

梅丽莎·斯坎内尔 他不停地查看是否——好吧，现在安静得够久了，她取消了隐私设置，我又能重新登录了。

奥利维亚·卡维尔 如果受害者更改用户名，他会查出新账号并发布到网站上。然后通知其他用户，怂恿他们去骚扰她。以下是配音演员朗读的帕特里克某条帖子内容：

帕特里克·凯里（配音演员） 召唤所有变态来彻底毁掉[哔声]的人生。

奥利维亚·卡维尔 检方发现帕特里克会用不同账号回复自己的帖子。

梅丽莎·斯坎内尔 你知道，这是为了增加互动量，让别人觉得——哇这人超受欢迎，这么多评论，我也要围观。

奥利维亚·卡维尔 提升互动似乎没有经济动机——至少检方没发现——但帕特里克确实从中获利。他甚至注册假账号冒充受害者，乞求用户放过他们。梅丽莎说他几乎全天候泡在这个网站。

梅丽莎·斯坎内尔 从早到晚，凌晨六点，深夜两点，下午两点，无时无刻不在。

奥利维亚·卡维尔 他会检查成果，用谷歌搜索受害者名字查看帖子互动量——

梅丽莎·斯坎内尔——想看看这些内容是否在其他地方引起了关注。随后他发现，这些年轻女性的照片被陆续上传到其他色情网站。于是他开始近乎痴迷地追踪自己的作品传播轨迹。

奥利维亚·卡维尔实际上，梅丽莎和凯尔西发现，帕特里克即便在被捕后，仍多次重返该网站。

梅丽莎·斯坎内尔最终统计显示他发布了约1300条内容，使用了14个不同的用户名。

玛吉·墨菲检方还进一步了解到帕特里克编辑照片的手法。这让我们得以窥见一项即将因人工智能实现巨大突破的技术。

帕特里克·凯里发布内容的网站创建于2010年左右。在大部分运营时间里，该站用户上传的都是真实女性及未成年女孩的照片。随着修图应用逐渐普及，网站上开始涌现大量请求他人制作所谓"假照片"“的帖子。

帕特里克使用Body Editor等应用程序，可能需要花费数小时才能生成逼真的假照片。但图片一经上传，所用技术就已过时。和网站其他用户一样，他会发帖请求制作更逼真的假照片。2020年10月11日，他在一条关于某受害者的帖子中询问——该帖当时有超4000人浏览——

帕特里克·凯里（配音）““有人会做淤伤/殴打效果的假图吗？很想看到[某编辑照]加上一两个黑眼圈。若能实现更粗暴对待的幻想场景就更好了。””

玛吉·墨菲 其他人正在开发更强大的工具。深度伪造技术革命就此拉开序幕。

2017年前后，Reddit论坛开始涌现深度伪造内容。用户将名人面孔PS到色情演员身体上。随后有人上传了演员盖尔·加朵与继兄发生关系的视频——这完全是伪造的，但因效果逼真引发了广泛关注。

档案音频：其中一段视频里，一名衣着暴露的女子躺在床上把玩情趣用品，却长着盖尔·加朵的脸。

玛吉·墨菲 Vice新闻记者萨曼莎·科尔追踪到制作者，对方自称只是对机器学习感兴趣的编程员。他透露这段视频是通过深度学习算法，将加朵的面部移植到色情演员身体上完成的。本质上，他让算法通过研究大量色情片和加朵的面部图像，学会了如何逼真地编辑视频。这位编程员的网名"deepfakes"正是深度学习（deep learning）与伪造（fake）的组合词。

多年来开发者们一直在研发各种制作逼真虚假图像的软件。早期实践者们的作品虽需耗费数小时计算资源，但所需源代码早已开源。

玛吉·墨菲 盖尔·加朵视频激发了AI编程大军制作更多名人色情内容的热潮，受害者包括斯嘉丽·约翰逊、泰勒·斯威夫特等明星。

档案新闻：约翰逊告诉《华盛顿邮报》，这可能发生在任何人身上。关键取决于是否有人想针对你。

玛吉·墨菲 深度伪造技术也因其潜在政治影响受到关注。一段经过编辑、使众议院议长南希·佩洛西听起来像是口齿不清的视频在Facebook上疯传。

档案音频：我们希望给这位总统…机会…为国家…做出历史性贡献…

玛吉·墨菲 随着更多深度伪造内容在网上传播，越来越多人涌入Reddit的深度伪造版块和其他论坛，交换制作逼真图片和视频的技巧。到2021年，这项技术已能反复评估调整图像，直到获得令人信服的完美匹配。

档案音频，深度汤姆：我播点体育节目你们不介意吧？

玛吉·墨菲 就在那时，另一段以伪造的汤姆·克鲁斯为主角的明星视频席卷全网。

深度汤姆：如果你们喜欢现在看到的…等着瞧接下来的好戏吧（毛骨悚然的笑声）。

玛吉·墨菲 用于制作诡异版汤姆·克鲁斯的人工智能模型，同样被用来运营当时最大的非自愿色情网站"Mr. Deepfakes”。对许多人来说，名人和政客成为深度伪造受害者像是"他们"的问题，是成名的代价。未被头条报道的是，普通女性早已在应对这种伤害。

奥利维亚·卡维尔 变化如此之快，难怪长岛的检察官们很难在法典中找到适用的法律。梅丽莎和凯尔西只有三个月的时间对帕特里克提起诉讼，否则将面临双重追诉的风险。但她们仅用一个月就获得了所需证据。

梅丽莎·斯坎内尔 我记得她当时兴冲冲地跑下来说：“我们找到了！“一开始我还很困惑：“找到什么了？她发现了什么？我们找到了什么？“后来她告诉我：“我找到她的照片了。”

奥利维亚·卡维尔 在经历了漫长的假图像调查后，检察官终于找到了能以重罪"起诉帕特里克的证据——一张真实的照片。这是其中一名女孩的裸照，由她的前男友拍摄后分享给包括帕特里克在内的同学。帕特里克随后通过加密通讯软件Kik将照片转发给他人。这张照片不仅构成复仇式色情内容，由于画面中的女孩当时年仅14岁，更属于儿童性虐待材料。

2021年11月，大陪审团正式起诉帕特里克。他面临多项重罪指控，包括传播儿童性表演内容、严重骚扰和二级跟踪罪。

这些指控无一涉及他制作的1100张未经同意的深度伪造色情图片。帕特里克于2022年12月认罪，但这并未彻底解决莱维敦镇年轻女性们的问题。那个网站依然存在，她们的照片和联系方式仍被公开，继续暴露在帕特里克·凯里召集的数百名网络掠夺者面前。

奥利维亚·卡维尔 你是否考虑过直接追查网站本身？

梅丽莎·斯坎内尔 我认为我们缺乏刑事依据这样做。该网站既不在美国托管，也肯定不在拿骚县境内。因此我们无权采取行动。

玛吉·墨菲拿骚县检察官无权将其关闭。但其他人或许可以。

问：你从事网络安全工作吗？

答：出于安全考虑，我无法回答这个问题。

问：为何你必须保持匿名？

答：我树敌；有些明目张胆，有些则喜欢隐匿行踪发动突袭。

玛吉·墨菲 在网络犯罪案件中，执法部门受制于资源、国界和管辖权。而黑客们却只被自身技术所限。下期《莱维敦》将为您揭晓。

奥利维亚·卡维尔 本系列由玛吉·墨菲与我——奥利维亚·卡维尔联合报道并主持。

由万花筒制作团队出品——朱莉娅·纳特领衔，内达·托洛伊-塞姆纳尼剪辑，达拉·卢克-波茨监制。执行制片凯特·奥斯本。原创音乐与混音由史蒂夫·博恩完成。

帕特里克·凯里的旁白由杰克逊·阿克演绎。

彭博社编辑为凯特琳·肯尼与杰夫·格罗科特。萨曼莎·斯图尔特参与补充报道。塞奇·鲍曼担任彭博社执行制片兼播客总监。克里斯汀·鲍尔斯为高级执行编辑。

来自iHeart，我们的执行制作人是泰勒·克朗和尼基·埃托尔。莱维敦是彭博社、万花筒和iHeartPodcasts的联合制作。如果你喜欢这个节目，请关注我们并告诉你的朋友们。