深度伪造技术带来的危险 - 《华尔街日报》

机器人、网络水军、影响力攻势：我们似乎每天都在与网络上更多虚假或人为操控的内容作斗争。由于计算能力的进步、更智能的机器学习算法和更庞大的数据集，我们很快将与一系列由人工智能生成的新闻文章、播客、深度伪造图片和视频共享数字空间——所有这些内容的生产规模和速度都曾是不可想象的。根据2018年的一项研究，当时在线深度伪造内容不到1万例。如今，网络上的深度伪造内容几乎肯定已达数百万。

我们几乎无法想象人们会为这种新型合成媒体找到的所有用途，但我们已经看到的情况足以引起担忧。学生可以让ChatGPT代写论文。跟踪狂可以制作包含他们痴迷对象形象的色情视频。犯罪分子可以合成你老板的声音，指示你转账。

深度伪造不仅带来犯罪风险，还对国家安全构成威胁。2020年，为了在美国煽动分裂，俄罗斯使用了传统的宣传手段，散布关于疫苗接种的假新闻，并选择性展示“黑人的命也是命”抗议活动中的真实破坏画面。深度伪造技术将此类手段提升到新高度，能够创造出令人信服的替代现实。例如，2022年俄罗斯发布了一段粗糙的深度伪造视频，显示乌克兰总统弗拉基米尔·泽连斯基呼吁乌克兰人放下武器。

想象一下，随着技术日益精进，未来可能出现的情形。试图招募成员的圣战分子可能展示法国总统埃马纽埃尔·马克龙诋毁伊斯兰教的可信视频片段。中国入侵台湾可能以一段台湾海军指挥官命令其部队放行中国军队的深度伪造视频为开端。参战士兵在读到数千条表面上来自战友、实则由ChatGPT生成的煽动性Facebook帖子后，可能会陷入绝望。这种信息战的规模、速度和逼真程度，可能会压垮军队和情报机构的防御能力。

在国内，深度伪造技术可能导致人们对所有信息产生怀疑。士兵可能不信任真实的命令，公众或许认为真实的丑闻和暴行并非事实。普遍存在的猜疑氛围将使政客及其支持者能够将任何关于他们的负面报道斥为虚假或夸大。

中国强大的网信部门已预见到此类担忧。今年1月，北京开始实施针对深度伪造内容的新规，从严格规定要求合成人像必须获得本人同意，到更具奥威尔色彩的禁令——禁止"传播虚假新闻"。

民主社会也需要开始应对深度伪造的潜在危害，但我们不能照搬中国的做法。我们需要一种既能维护思想言论自由流动，又能保障公民辨别真伪信息交流的应对方案。虚假信息的危险性恰恰在于它动摇了真相的根基。类似北京的禁令会加剧这个问题，因为它将真伪判断权变为政府特权，容易受到政治因素和暴力执法的影响。

民主国家的应对方案较为复杂，需要融合技术、监管和社会多管齐下。英特尔公司已从技术层面着手——去年11月其研究人员提出的FakeCatcher系统号称识别准确率达96%。这个数字令人印象深刻，但考虑到合成内容的海量产出，即使99%准确率的检测器也会漏掉数量惊人的虚假信息。更何况政府将雇佣高技能程序员，这意味着官方制作的深度伪造内容最难被识别。即便最精妙的检测器也有局限，因为检测技术的突破几乎必然会被用于改进下一代深度伪造算法。

有一种变通方法或许能帮助检测技术领先于这种循环，这与社交媒体公司已在探索的一项技术相关。检测技术的开发者可以少关注视频或图像本身，而更多关注其使用方式，通过创建分析元数据和上下文的算法。社交媒体平台目前部署这类工具来检测用于某些平台所称“不真实行为的协同行动”的虚假账户——这一术语涵盖伊朗、俄罗斯等恶意行为者散播虚假信息或抹黑特定公众人物的行为。针对深度伪造的此类算法将能区分，比如，一幅雷诺阿风格的亲人深度伪造画作与展示裸体名人或吸毒政治人物的深度伪造内容。

美国政府及其他民主国家无法直接告诉民众何为真假，但它们可以要求大规模生产和分发合成媒体的公司提高算法透明度。公众应知晓平台的策略及这些规则如何执行。传播深度伪造的平台甚至可被要求允许独立第三方研究人员研究这类媒体的影响，并监督平台算法是否按政策运行。

深度伪造将改变民主国家许多机构的运作方式。军方需要非常安全的系统来验证命令，确保自动化系统不会被潜在的深度伪造触发。应对危机的政治领袖必须预留延迟时间，以确保面前的信息未被对手伪造或部分篡改。记者和编辑必须对爆炸性新闻保持警惕，加倍坚持多方核实事实的标准。在存疑情况下，媒体可用醒目的“此信息未经核实”标签标注部分新闻。

最终，公众将不得不区分善意运作的信息来源与旨在操纵的信息来源。许多民主国家在媒体素养方面面临挑战，但芬兰提供了一个有希望的范例。在那里，媒体素养从学前教育开始就被纳入学校课程，图书馆已成为成人媒体素养教育的中心。芬兰目前在抵御错误信息方面排名世界第一。

民主的本质决定了没有任何单一政策能有效遏制虚假信息的扩散。要解决这个问题，自由社会需要多方努力，并且与中国的"真理部"做法形成对比，应优先保持开放的讨论并尊重公民的辨别力。关键是要在深度伪造技术渗入并压倒我们的信息生态系统之前启动这一进程。一旦发生，不信任和混乱将更难控制。

拜曼、梅瑟罗尔和苏布拉马尼安先生们（与高重阳合著）是布鲁金斯学会新研究报告《深度伪造与国际冲突》的共同作者，本文改编自该报告。

刊登于2023年2月25日印刷版，标题为《即将到来的深度伪造危险》。