中国成为算法监管先锋 将矛头对准深度伪造技术——华尔街日报

中国国家互联网信息办公室将于本周起开始执行针对深度伪造"技术的新规。图片来源：THOMAS PETER/REUTERS香港——中国正实施新规以限制"深度伪造"（即通过人工智能软件生成或编辑的媒体内容，可使人看似在说或做他们从未说过或做过的事情）的制作。

中国国家互联网信息办公室将于1月10日起执行这项针对所谓"深度合成"技术（包括AI驱动的图像、音频和文本生成软件）的监管规定，这标志着全球首个主要监管机构试图全面遏制人工智能发展中最具爆炸性和争议性领域之一的举措。

这类技术支撑着诸如OpenAI开发的文本生成器ChatGPT和个性化数字头像自动生成工具Lensa等广受欢迎的应用，同时也因其可能产生更具欺骗性的媒体内容而带来新挑战，这些内容可能助长错误信息，并让人对数字领域中几乎所有内容的真实性产生怀疑。

新规除其他事项外，禁止使用AI生成的内容传播"虚假新闻"或被认定会破坏经济或国家安全的信息——这些定义宽泛的类别赋予监管机构很大的解释空间。新规还要求深度合成技术提供者（包括公司、研究机构和个人）在图像、视频和文本可能被误认为是真实的情况下，显著标注其为合成生成或编辑的内容。

新规于12月11日首次发布，将于本月生效，此前在8月份已公布过旨在监管支撑全球最强大互联网平台的算法规则。

科技政策分析人士表示，针对深度伪造生成工具和算法的新规能否达到预期效果，将考验北京管理快速发展的新技术的能力，这些技术正让全球监管机构感到困惑。

美国立法者试图解决深度伪造技术的扩散和潜在滥用问题，但这些努力因言论自由的担忧而停滞不前。位于柏林的非营利研究和倡导组织AlgorithmWatch的执行董事马蒂亚斯·施皮尔坎普表示，在欧盟，监管机构的进展更进一步，但与中国相比采取了更为谨慎的做法，强烈建议平台找到方法减少深度伪造技术传播虚假信息的能力，而不是直接禁止。

斯坦福大学研究学者格雷厄姆·韦伯斯特表示，中国的监管尝试表明，北京深受围绕该技术的全球辩论影响。他负责追踪中国数字政策发展的DigiChina项目。

“中国正在与世界一起学习这些技术的潜在影响，但它以更快的速度推进强制性规则和执行，”他说，“世界各地的人们应该关注会发生什么。”

深度伪造技术诞生于2014年开源算法问世之后，该算法能生成以假乱真的人物和虚构物体的图像。这项发明引发了图像合成软件研究的热潮，同时也催生了新型侵权行为，例如在未经许可的情况下将女性面孔移植到色情视频中。

此后，人工智能合成技术持续发展并拓展至插画、视频、语音、文本及对话等多元领域——这些应用如今被统称为"生成式AI"，其发展动力部分源自商业和娱乐场景中不断增长的需求。

诸如Reface的换脸应用，以及TikTok和Snapchat中为自拍添加狗耳朵的特效，都采用了生成算法的变体来实现效果。2021年一部关于已故名厨安东尼·波登的纪录片，通过深度伪造技术重现其声音，将他生前撰写但未亲口说出的文字赋予了生命。

但人们对滥用生成技术制造深度伪造的忧虑与日俱增。例如现在制作政客发表任意言论的伪造视频比以往任何时候都容易，这类内容可能引发混乱，尤其在选举或战争期间。用于训练ChatGPT、Lensa等新一代AI的海量数据——从互联网抓取的数万亿单词和图像——也引发了关于数据隐私与授权的广泛争议。

一部关于安东尼·波登的纪录片使用人工智能技术重现了他的声音。图片来源：焦点影业/美联社虽然美国在生成式AI领域处于领先地位，但包括百度、腾讯控股以及政府支持的北京智源人工智能研究院在内的多家中国企业和机构，也致力于开发自主算法或改造现有技术，用于生成中国风绘画、创建数字虚拟人等娱乐或商业用途。

近年来，中国媒体报道了更多利用该技术实施诈骗的案例。据官方新华社4月报道，温州一名男子声称犯罪分子使用换脸技术冒充好友，骗取其约7200美元。

2021年3月，一款能将静态人脸照片转化为搞笑视频的AI应用在中国爆红后，网信办召集了包括阿里巴巴集团、腾讯及TikTok运营商字节跳动在内的11家企业，就深度合成技术的安全问题展开研讨，该机构声明显示。

总部位于纽约的人权非营利组织Witness（致力于研究生成式AI技术社会影响）的项目主管萨姆·格雷戈里表示，欧美监管面临的挑战是如何在遏制技术负面影响的同时，不限制政治讽刺等合法言论形式。他指出，相比之下，中国新规将现有严格的言论管控延伸至这一新兴媒介领域。

“这些新规显然框定了大量不适用于讽刺言论的使用场景，”研究过新规的格雷戈里先生表示。

中国法规的某些特点与国际新兴规范相符。例如北京新规要求对用户可见的AI生成内容进行显著标识并添加数字水印，格雷戈里指出，这些措施被视为应对深度伪造欺骗性影响最有效的方式，也能帮助网络平台处理违规内容。

斯坦福大学的韦伯斯特认为，北京的法规将为海外观察者提供研究案例，展示此类规定在现实中的运作方式及其对企业的影响。“这是全球首批大规模应对社会最大挑战之一的尝试。”

联系作者凯伦·郝请致信[email protected]

本文发表于2023年1月9日印刷版，标题为《北京出手规范深度伪造技术挑战》。