什么是Deepfakes？德克萨斯州、加利福尼亚州和其他美国州试图监管人工智能技术 - 彭博社
Isaiah Poritz
前总统唐纳德·特朗普拥抱并亲吻他的前首席医疗顾问安东尼·福奇的图片。好莱坞女演员和网络名人的色情描绘。五角大楼爆炸的照片。
所有这些都被发现是“深度伪造”，这是利用不断发展的人工智能技术创造的高度逼真的音频和视觉内容。
受到数字伪造伤害的人，尤其是未经同意出现在深度伪造色情内容中的女性，几乎没有法律救济的选择，全国各地的立法者现在正竭力填补这一空白。
“一个诚实呈现的色情深度伪造未必违反任何现行法律，”西北大学法学教授马修·库格勒说，他支持伊利诺伊州一项反深度伪造法案，目前正在州长面前等待批准。
“你正在拿一个公开的东西，你的脸，和完全来自另一个人的东西，所以根据许多现行法规和侵权行为，并没有明显的起诉人们的方式，”他说。
对生成式人工智能的潜力的最近兴趣已经促使今年举行了多次国会听证会，并提出了多项旨在监管这一新兴技术的提案。但由于联邦政府陷入僵局，州立法机构更快地推进了旨在解决人工智能的直接危害的法律。
九个州已经颁布了关于调控深度伪造视频的法律，主要涉及色情内容和选举影响，至少另外四个州的法案正在立法过程中的不同阶段。
加利福尼亚州、德克萨斯州和弗吉尼亚州是2019年首批颁布深度伪造视频立法的州，早于当前对人工智能的狂热。明尼苏达州最近在五月颁布了一项深度伪造视频法律，伊利诺伊州的一项类似法案正在等待州长签署。
威尔默哈尔律师事务所的律师马修·费拉罗表示：“人们经常谈论立法的缓慢、冰川时代的步伐，但在这个领域，情况并非如此。”
科技推动法律
“深度伪造视频”这个术语首次出现在2017年的互联网上，当时一个名叫“深度伪造”的Reddit用户开始发布使用人工智能算法将名人的脸部数字添加到真实成人视频中的假色情视频，而这些视频并未经过当事人同意。
今年早些时候，未经同意的深度伪造色情视频的传播在视频游戏直播社区引发了争议，突显了无限制的深度伪造视频带来的巨大危害以及法律救济的缺乏。受欢迎的主播QTCinderella表示，她受到了向她发送这些图片的互联网用户的骚扰，曾威胁要起诉制作深度伪造视频的人，但后来被律师告知她没有案子。
自那时以来，互联网上流传的深度伪造视频数量激增。Deeptrace Labs是一家识别深度伪造视频的服务机构，2019年发布了一份广受关注的报告，发现在线存在近15000个深度伪造视频，其中96%是涉及女性的色情内容。同样也能检测深度伪造视频的Sensity AI表示，自2018年以来，深度伪造视频数量呈指数级增长。
“技术不断进步，除非你是数字取证专家，否则很难分辨某物是否为假，”洛约拉玛利蒙特大学法学教授丽贝卡·德尔菲诺研究深度伪造技术。
这不仅加剧了在线和政治竞选中的错误信息传播。共和党总统候选人罗恩·德桑蒂斯的一则攻击广告似乎显示特朗普在一系列照片中拥抱福奇，但其中一些图片是由AI生成的。
五月份开始在Twitter上流传的一张虚假但逼真的照片显示五角大楼发生爆炸，导致股市暂时下跌。
在某种意义上，合成媒体已经存在几十年了，使用基本的照片处理技术，最近还有像Photoshop这样的程序。但是，非技术性的互联网用户现在可以轻松地创建高度逼真的数字伪造品，这推动了新法律的制定。
“正是这种技术的速度、规模、可信度和获取性结合在一起，创造了这种‘女巫的酿造’，”费拉罗说。
寻找解决方案
没有一项特定的法律来解决深度伪造色情内容，受害者的法律选择有限。一系列知识产权、隐私和诽谤法理论上可以让受害者起诉或获得正义。
洛杉矶联邦法院目前正在审理一起肖像权诉讼案，涉及一位真人秀名人称他从未同意一款AI应用程序，该应用程序允许用户在他的脸上数字化贴上自己的脸。但是，肖像权法律因州而异，只有在肖像被用于商业目的时才保护一个人的形象。
四十八个州对报复色情有刑事禁令，一些州还有反对“偷窥”的法律，这涉及未经同意拍摄他人私密部位的照片。受害者也可以起诉诽谤，但如果深度伪造包含免责声明表明其是虚假的，那些法律不一定适用，西北大学法学教授库格勒说。
卡罗琳·福特，Minc Law律师事务所的律师，专门帮助报复色情受害者，表示尽管许多受害者可以根据这些法律获得救济，但这些法规并不是针对深度伪造而制定的。
“在这些情况下，拥有一部非常清晰表明立法机构试图看到这种巨大伤害并试图弥补这种伤害的法规总是更可取的，”她说。
各州的法律拼图
迄今为止各州颁布的法律范围各不相同。
在夏威夷、得克萨斯、弗吉尼亚和怀俄明，非自愿色情深度伪造只是一种刑事违法行为，而纽约和加利福尼亚的法律只创造了一项私人诉讼权，允许受害者提起民事诉讼。最近明尼苏达州的法律概述了刑事和民事处罚。
找到合适的被告可能很困难，而当谈到她处理的淫秽复仇案件时，福特表示当地执法部门并不总是合作。许多客户只希望删除图像或视频，却没有资源来提起诉讼。
深度伪造的定义在各州之间也有所不同。有些州像德克萨斯直接提到人工智能，而其他州只包括“计算机生成图像”或“数字化”等术语。
许多州同时修改了选举法规，以禁止在选举前特定时间段内在竞选广告中使用深度伪造技术。
言论自由的担忧
像大多数新技术一样，深度伪造技术也可以用于无害的目的：制作模仿、复活历史人物或配音电影，所有这些活动都受到第一修正案的保护。
在禁止有害深度伪造技术的同时保护合法使用的平衡并不容易。“你会看到政策制定者确实在挣扎，”洛约拉大学法学教授德尔菲诺说。
伊利诺伊州美国公民自由联盟最初反对该州的淫秽深度伪造法案，认为尽管深度伪造技术可能造成真实伤害，但该法案的广泛规定和立即删除条款可能“抑制或使大量受保护的言论沉默。”
最近的修正案将深度伪造技术纳入伊利诺伊州现有的复仇淫秽法案中，这是一个“重大改进”，该组织的传讯主任埃德·约恩卡在一封电子邮件中说。“我们仍然担心该法案的措辞降低了现有的法律门槛，”他说。
德尔菲诺表示，上个月国会提出的一项深度伪造法案可能会引发类似的担忧，因为它的例外仅限于“合法公共关注事项”。
她指出，加利福尼亚的法规明确提到了第一修正案的保护。她说，如果国会想要“真正认真对待这个问题，他们需要在这项提案上做更多工作。”
库格勒表示，第一批深度伪造法律主要针对非自愿色情内容，因为在言论自由问题上，这些案件是“易取之果”。他说，情感困扰和尊严和声誉受损是明显的，而言论自由的好处是微不足道的。
德尔菲诺长期以来一直倡导更严格的报复色情法律，并一直关注深度伪造色情内容自引起关注以来的崛起。她表示，她很高兴对AI的持续关注正在推动对更严格法律的要求。
“像许多涉及对妇女和少数群体犯罪以及对妇女和少数群体物化的事情一样，它们每隔一段时间就会引起关注，然后公众就会移开，”她说。“但现在，人们又开始重新关注深度伪造技术。”
要联系本文记者：华盛顿的以赛亚·波里茨，邮箱：[email protected]
联系负责此故事的编辑：Jay-Anne B. Casuga，邮箱 [email protected]；James Arkin，邮箱 [email protected]