AI观察｜美国出台首个联邦人工智能监管法案【走出去智库】_风闻

走出去智库（CGGT）观察

4月28日，美国国会众议院通过《删除法案》（TAKE IT DOWN Act），旨在打击未经同意在网络上发布色情图片和视频的行为，其中包括人工智能生成的“深度伪造”材料。该法案预计由美国总统特朗普签署成法律，将是其第二任期内首部重要的互联网及AI监管法律。

走出去智库（CGGT）观察到，虽然该法案旨在打击“色情报复”以及遏制“深度伪造”技术带来的种种危害，但它所承载的意义远不止于此。该法案被广泛看作是美国在规范互联网公司发展道路上迈出的关键且重要的一步，长期以来，美国众多互联网公司凭借着技术和市场优势，巧妙地逃避监管，在数据隐私保护、内容审核等诸多关键方面存在诸多漏洞与问题，该法案有望改变这一现状，促使互联网公司承担起应有的社会责任。但部分人担忧其条款可能限制言论自由，过度干预网络生态，因而对此表示反对。

《删除法案》将带来哪些影响？今天，走出去智库（CGGT）刊发一篇分析文章，供关注互联网和AI监管的读者参考。

要点

1、这是美国多年来第一部直接监管网络内容的法案，也是第一部联邦层面的人工智能监管法案。它表面上是在处理隐私和色情剥削问题，本质上则是在联邦层级首次针对生成式人工智能（特别是深度伪造技术）滥用行为专门立法，并设定了具体的责任、处罚和执法机制，是美国首个生效的AI治理法案。

2、这次《删除法案》的再启动其实是典型的逆风而上：特朗普政府正强调去监管，科技行业对白宫的影响力前所未有地增强，美国副总统万斯在巴黎AI峰会和慕安会等各种场合刚强调了言论自由、反对AI监管。但尽管如此，法案还是以惊人的速度迅速推进。

3、特定网络内容入罪和“通知-删除”机制，无疑还直接触及了宪法第一修正案，引发了对法案合宪性的合理疑问。

正文

4月28日晚，美国国会众议院以409:2压倒性通过了《删除法案》（TAKE IT DOWN Act），并提交特朗普签署。特朗普和第一夫人梅拉尼娅早就明确支持通过该法。在白宫举行的特朗普就职百日发布会上，发言人莱维特开场就宣布：“这项重要立法由第一夫人亲自倡导并引导通过，总统期待立即签署它”。所以，该法案成法生效已是板上钉钉。

《删除法案》的核心内容，如果总结成一句话就是：把发布未经同意的私密露骨影像（Non-consensual Intimate Imagery, NCII，俗称“报复性色情”）的行为定为犯罪，并要求科技平台限时48小时删除相关内容，否则将被联邦贸易委员会（FTC）处罚。

这是美国多年来第一部直接监管网络内容的法案，也是第一部联邦层面的人工智能监管法案。它表面上是在处理隐私和色情剥削问题，本质上则是在联邦层级首次针对生成式人工智能（特别是深度伪造技术）滥用行为专门立法，并设定了具体的责任、处罚和执法机制，是美国首个生效的AI治理法案。****当然，需要明确的是，该法案只管特定领域的AI滥用（深伪色情），不是欧盟AI法案那样的综合性监管框架，比起我国的《生成式人工智能服务管理暂行办法》切口也要更窄。换言之，法案管的是“用AI做了坏事的结果”，而不是对AI技术开发过程、模型训练过程等进行直接规范。但这一小步，却是美国AI监管颇具突破意义的一步。

整个法案的内容可以拆解为“刑事定罪“+“通知-删除”两个版块：

一、刑事定罪

1、故意发布未经同意的私密影像构成犯罪

《删除法案》修改了《1934年通信法》，明确禁止故意发布未经他人同意的私密影像。这里所说的“私密影像”，不仅包括真实拍摄的照片或视频，还包括用人工智能或其他技术制作的、看起来和真人无异的合成影像。无论是直接拍摄还是数字伪造，只要影像中能识别出受害者的面容或特征，且未经其同意被发布，就属于违法行为。

如果发布的是成年人的私密影像，需要满足几个条件才构成犯罪，比如影像是在当事人有合理隐私期待的情况下拍摄的，不是公开场合展示的内容，也不是公众关心的事务，同时发布该影像的行为要么是出于伤害意图，要么实际造成了心理、经济或名誉上的伤害。而针对未成年人的私密影像规定更加严格，只要发布者是为了羞辱、骚扰、贬低，或满足性欲，即构成犯罪。

不过，法律也列出了一些例外情况。比如，执法或情报机关依法进行的调查使用影像时，或出于善意向警方举报、在法律程序中使用、医学教育等正当目的下披露影像，不算违法。此外，如果受害者本人自愿发布自己的私密影像，或影像属于儿童色情等更严重犯罪范畴，则适用其他专门法律。

2、发布AI合成的数字伪造影像同样违法

除了真实拍摄的内容，使用AI或其他技术伪造出的假冒私密影像，同样受到法律禁止。如果未经当事人同意发布了这些高度逼真的合成影像，同样需要满足一定条件，比如不是本人在公开场合展示的，不是公众关注事项，并且发布行为带有伤害意图或实际造成伤害，才会构成犯罪。但涉及未成年人的合成色情影像，无论目的为何，只要有辱骂、骚扰、满足性欲的意图，就直接违法。

这些规定也有例外，和上面已经提到的一样，但如果影像涉及儿童色情或儿童性虐待表现，无论是否存在同意，都会受到更严厉的处罚。

3、违法发布私密影像的处罚

如果违法发布成年人的私密影像或合成影像，最高可被判罚款和两年监禁；如果发布的是未成年人的，则最高可判三年监禁。法院在判决时，还可以命令没收用于发布违法影像的材料、非法获利和相关工具。

此外，发布影像之外，单纯威胁他人说要发布也属于犯罪。威胁发布真实影像的，适用正常处罚；威胁发布数字伪造影像的，如果对象是成年人，最高判18个月监禁，如果是未成年人，则最高30个月监禁。

法院也可以责令违法者向受害者支付赔偿。同时，法案特别强调，就算当事人曾同意拍摄影像，或者曾把影像发给别人，也不等于同意被公开发布。

二、数字平台的“通知-删除”义务

1、在法律生效后一年内，所有受监管的网站、社交平台或应用，必须建立一套流程，让受害者可以举报自己的私密影像未经本人同意被上传的情况，并要求平台删除这段影像。一旦接到举报，平台要在48小时内删除相关内容，并尽力清除所有副本。

2、受害者提交请求时，需要提供：1）个人的手写或电子签名（确认是本人或授权人）；2）明确说明是哪段内容被滥用了，提供能帮助平台快速找到内容的线索；3）简要说明为什么相信这段影像是未经自己同意发布的，并提供相关背景信息；4）联系方式，方便平台核实或反馈。

3、平台必须在网站或APP上明显位置展示清晰说明，比如通过一个简单易懂的网页链接，告诉用户：1）平台对于处理私密影像的责任是什么；2）用户如何提交举报和删除请求。这些说明要用简洁、易懂的语言，不能复杂晦涩，让用户难以理解。

4、善意免责：即如果平台是基于善意判断，相信某段影像是未经同意发布的，因此选择删除或者限制访问，即使最终发现那段内容是合法的，平台也不会因此被追责或被索赔。

联邦贸易委员会负责执法，监督各大平台认真执行“删除违规私密影像”的义务。平台如果拖拖拉拉，或者直接拒绝受害者的删除请求，就会被认定为搞欺诈，违反了《联邦贸易委员会法》。一旦被抓住，不仅可能被调查、罚款，还可能被强制整改。委员会可以动用它手里的一整套执法武器来处理这些违规平台，无论是一般企业还是非营利机构，只要触犯规定，都逃不过。

过去，美国在科技监管方面一直是雷声大、雨点小。无论是管人工智能、平台责任，还是搞反垄断改革，国会总是谈得热闹，真到了立法的时候就老是卡壳。即使是对深伪色情这种深度伪造技术应用，国会也是多次尝试予以规制却无功而返。比如，纽约民主党众议员、现在民主党的少壮派AOZ和南卡共和党众议员Nancy Mace就曾联合推出的《反抗法案》（DEFIANCE Act），赋予受害者起诉权；还有Dick Durbin、Josh Hawley等议员提的配套法案，最后都因行业反对而夭折。

直到2024年6月，才由参议员Ted Cruz推出了《删除法案》的第一个版本，7月众议院也跟进了配套文本。虽然法案在参议院修订后，于12月初通过，但因为政府停摆，众议院来不及审议。原本想趁年末打包进预算案，但预算案又被否决，法案被挡了下来，只能等到第119届国会重新来过。2025年1月，Ted Cruz以参议院商务委员会新任主席的身份，再次提交了《删除法案》，参议员Amy Klobuchar也参与了共同提案。

这次《删除法案》的再启动其实是典型的逆风而上：特朗普政府正强调去监管，科技行业对白宫的影响力前所未有地增强，美国副总统万斯在巴黎AI峰会和慕安会等各种场合刚强调了言论自由、反对AI监管。但尽管如此，法案还是以惊人的速度迅速推进。****

在参议院提出《删除法案》几天后，众议员Maria Salazar和Madeleine Dean也在众议院提出了配套版本。这次，参众两院都有大批两党议员联署支持——众议院有41位，参议院也有20多位。因为上届国会已审议过一次，这回推进得异常顺利。法案提交后不久，参院直接跳过了常规的委员会审查流程，2月13日以全票一致通过。众议院的进展也十分顺利。在众议院能源和商务委员会的审议中，法案以49票赞成、1票反对的结果通过。随后，众议院在不进行辩论的情况下，通过“暂停规则”程序迅速表决通过了该法案。

前脸书、推特、谷歌政策顾问Nu Wexler曾经形容，在美国要推动一项科技监管法案成功，需要“天时地利人和”，而《删除法案》可能正好踩准了所有条件。

首先，近年来生成式人工智能广泛应用，大幅降低了制作高度逼真深度伪造色情内容的门槛，导致此类侵害隐私的影像激增，对受害者造成了严重的心理、名誉和经济伤害，社会反应很大。尽管美国几乎所有州都立法禁止“深伪色情”，但各州法律标准不一，执法不均，受害者往往难以及时要求平台移除影像。因此，支持出台联邦统一法案的呼声很高，科技界、政界、公益组织几乎是一边倒支持。

一直对AI监管和平台规制比较抵触的主要互联网科技公司和社交媒体平台，这次也都公开支持法案。一些平台的负责人甚至直接参与法案的推广。应当说，平台企业也有自己的算盘：有个统一的联邦标准，总比各州对深度伪造和“报复色情”搞“碎片化”立法要好得多，如果一定要立法，那平台们肯定更想要一个联邦法，这样合起规来也容易地多。此外，反对这样一项旨在保护女性和未成年人免遭色情剥削的法案，公众舆论和道德形象显然是很差的。

其次，或许是最重要的一个因素，是这项法案获得了第一夫人梅拉尼娅·特朗普的力挺。****《删除法案》和梅拉尼娅长期关注的儿童和青少年网络安全议题高度契合，成为获得她支持的关键。特朗普第一任期，梅拉尼娅发起了名为 “Be Best” 的倡议，主打的三大主题之一就是“儿童网络安全”，特别是青少年在社交媒体上遭遇网络欺凌、骚扰、虐待，以及因隐私被侵犯、被传播不当内容而造成的心理伤害。而《删除法案》的核心，就是要打击未经同意的私密影像（包括青少年受害人）的网络传播，防止深伪色情内容扩散，对梅拉尼娅来说无疑很容易形成价值认同。

自Ted Cruz重提法案以来，**第一夫人办公室就深度参与了整个立法进程。**参院通过《删除法案》后，梅拉尼娅亲自出席了Ted Cruz和Maria Salazar组织的一场跨党派圆桌会，和“报复色情”、深伪色情受害者一起发声，呼吁国会加速通过法案。她不仅发表了演讲，还邀请一位15岁的受害女孩作为贵宾出席并分享自己的经历，跟其他几位受害者也进行了私下交流。据媒体报道，梅拉尼娅在私下听取受害者经历时多次动容，眼眶泛红。她向工作人员表示：“每一个受害者的故事，都让我更加坚信我们必须立法。”她还直接建议特朗普在国情咨文演讲中特别提一下《删除法案》，明确总统对法案的支持。后来特朗普确实照办了，还半开玩笑地说：如果可以的话，我自己也会用这项法律保护自己，因为我是受深伪伤害最多的人之一。

不过，对《删除法案》也有一些批评和质疑。像电子前沿基金会（EFF）就担心这个法案可能会伤害到言论自由，甚至给特朗普这种政治人物一把新武器，让他们有机会去打压批评者。民主与技术中心（CDT）也提了警告：法案搞了个“通知-删除”的机制，可能不只是删除那些真正未经同意的私密影像，还会顺带把一些本来合法、正常的内容也删掉。这样一来，很可能会踩到宪法红线，变成对大家自由发言的打压。

还有人特别担心加密通讯。比如WhatsApp这种聊天工具，消息是端到端加密的，平台自己都看不到内容。要是有人在加密群组里发了违规影像，即使受害者举报，平台也没办法不破坏加密就删掉。这样一来，平台要么违规挨罚，要么就得动手破坏加密，最后倒霉的可能是所有用户的隐私。技术专家们指出，目前《删除法案》没有明确豁免加密平台，也没想好在加密环境下怎么操作，是个明显的漏洞，以后很可能还得靠补充立法或者新技术手段来把这个问题补上。

****在《通信规范法》****230条之后，美国已经很多年没有通过限制平台内容的国会立法。《删除法案》大幅强化了平台对未经同意的私密影像的删除义务，有点像是走欧盟《数字服务法》的路径，和230条的避风港规则形成了一定张力。****而且法案也没有像版权领域那样设立反通知机制，平台为避免风险可能倾向于“先删后问”，扩大删除范围，损害网络言论自由。合规层面，大型平台可能是有准备，但中小平台和加密通讯应用面临很大压力，有可能导致误删合法内容或为了合规牺牲用户的通信隐私。

不过，法案毕竟没有开放就深伪色情内容对平台的民事索赔渠道，也保留了善意删除的免责机制，终归坚持了230条的基本价值，只能说是极其有限的调整而非根本背离。此外，平台托管儿童色情、未经同意的私密影像，本来就因属于230条的例外而不享有民事责任的豁免，实际上又和230条的旨趣、要保护的利益是对齐的。

特定网络内容入罪和“通知-删除”机制，无疑还直接触及了宪法第一修正案，引发了对法案合宪性的合理疑问。****这也是一些反对法案的人的论点之一，觉得法案可能迫使平台为规避风险而“过度删除”，限制合法表达，并且因为缺乏反制滥用的机制产生压制言论的效果。还有人警惕未来政府可能以类似法律扩大对网络言论的审查范围。

从第一修正案的先例看，合法的成人色情内容（即成年人自愿参与、制作、传播的色情作品）也受宪法保护，例外非常狭窄：只有儿童色情（Child Pornography）和真正的猥亵内容（Obscenity），其中似乎不包括“报复色情”。但美国最高法院的先例一贯认为，极端有害的内容，比如儿童色情、淫秽猥亵言论，以及直接与犯罪有关的表达，不受第一修正案保护。大部分深伪色情或“报复色情”（特别是涉及未成年人或性勒索）实际上属于犯罪的一部分，即使不完全构成言论自由的例外，也因社会价值极低，可以依法禁止。换言之，《删除法案》针对的是几乎没有表达价值的内容，不影响新闻报道或合法的成人内容，立法目标是防止人格权侵害而非打击观点，符合”内容中立“原则，应该可以通过严格审查。****

来源：东不压桥研究院

法案原文：https://www.congress.gov/119/bills/s146/BILLS-119s146es.pdf