一种识别深度伪造与真实照片的新方法：它可行吗？——《华尔街日报》

今年早些时候，一张教皇身着时尚白色羽绒服的照片在网络上疯传，这生动展现了AI生成图像如何能欺骗互联网。随着这类内容预计将大量涌现，我们需要新的方法来辨别真假。

Photoshop制造商Adobe的总法律顾问兼首席信任官达纳·拉奥表示：“四年前启动这项工作时，最初的想法是‘我们能开发出AI深度伪造检测器吗？’“Adobe是"内容真实性倡议"的牵头企业之一，该全球联盟由来自科技、政策和媒体领域的2000名成员组成（包括《华尔街日报》）。

他表示，随着工作推进，团队的策略已有所调整。在此，他与《华尔街日报》“万物未来"播客探讨了如何利用数据支撑网络信任。

今年7月，Adobe总法律顾问兼首席信任官达纳·拉奥就人工智能与版权议题出席参议院小组委员会听证会。图片来源：Chip Somodevilla/Getty Images### Adobe曾考虑开发AI图像识别工具，但现在转变了方向？

是的，最初"只想知道某物是否虚假"看似是最直接的解决方案。但问题在于，深度伪造检测必须达到极高准确率——若错误频出，人们将失去信任。准确率需接近99%，而我们当时仅能达到60%左右。

因此我们认为检测并非解决之道。我们彻底转变思路，于是启动了"内容真实性倡议”。我们提出：“与其试图识破谎言，不如思考如何帮助人们证实真相？“这至关重要[因为]一旦你身处被深度伪造技术欺骗的世界，下次看到任何内容时，你都会怀疑"这到底是真是假？“我们将对音视频信息逐渐麻木，因为无从验证真伪。

所以你们选择从另一端着手。具体如何实现？

我们开发了名为"内容凭证"的技术。这就像为图片、视频或音频附上的营养成分表，会完整记录创作者信息、创作时间地点以及所有编辑修改记录。

以Photoshop为例，编辑前你需点击启用内容凭证功能——因为你希望取信于人——随后进行的亮度调整或瑕疵修复等所有操作都会被记录。导出时这些元数据将随文件保存。浏览者会看到图像上的CR标识，点击即可查看完整[元数据]。

但最终仍需用户自行判断可信度。对普通用户而言，这些内容凭证的实际帮助有多大？

首先，并非所有内容都需要验证。比如你在Facebook发布一张戴帽子的猫咪照片，就无需刻意证明其真实性。

一张由AI生成的教皇身穿羽绒服的照片最初于三月出现在Reddit上，在被各大平台标记为伪造图像前已被广泛传播。图片来源：Guerrero Art但人们会期待，在重要事件上，（发布图像者）会花时间验证其真实性。因此我将看到那个标识，能够点击它，并自行决定是否相信。这是一条从图像最初被捕捉到最终发布的完整信任链。

内容创作者是否存在风险？假设你身处独裁政权国家，拍摄了某项确凿证据的照片，而你的名字却与之关联？

是否开启内容凭证是可选项。你可以选择"我要拍摄这个事件的照片，但不会签署姓名”，或者"不公开身份，但保留拍摄地点、时间及编辑记录等其他信息”。

这完全取决于选择使用内容凭证的人。他们有权决定是否透露身份。这对我们而言是重要的设计原则，因为我们需要保障用户在可能遭受报复的情况下仍能使用该功能。

当我看到图像时，可能因为发布者选择匿名而降低信任度。但我还有其他可验证的信息——这本身就是一种权衡，不是吗？

因此最终由查看图像的用户决定是否信任。

我们希望赋予公众决定信任什么的权利。最终始终是由您，即用户，来决定是否愿意信任某些内容。

这让我觉得要让这套机制发挥作用，必须具备媒介素养。

当我们与政府讨论打击深度伪造的重要性时，他们常问：“我们能做什么？“我们给出的建议是政府需承担双重角色：首先是教育公众——眼见未必为实。人类天生容易相信图像，大脑已经进化到会本能地采信视觉信息。

其次，当内容凭证技术普及时，政府需要告知公众：当看到重要内容时，你们可以使用这个验证工具。正规内容都应附带内容凭证。

通过内容凭证，观众可以查验图像来源及修改记录。图片来源：Adobe### 图像认证的责任主体是谁？创作者？用户？还是发布平台？

这是我们共同的责任。如果我们不能协同建立数字信息的可信标准，未来两三年——甚至到2024年大选时，社会将陷入信任危机，人们会对所有视听内容产生怀疑。

AI工具正在创造奇迹。只需输入"开着敞篷车穿越沙漠的猫”，就能立即生成惊艳图像。无需专业技能，人人皆可成为艺术家。我鼓励大家使用这些工具，它们将彻底改变人类的协作创作方式。

但它们也可能被滥用。若你为欺骗目的而滥用这些技术，就应当为此承担法律责任。

企业正在开发AI图像检测工具，您对此有何看法？

持续研究这个领域非常棒。当前深度伪造检测的主要问题在于事后追溯——当你给谎言打上标签时，数百万人早已信以为真，此时再告知这是伪造内容为时已晚，覆水难收。

如何让这些内容凭证覆盖网民可能看到的所有图像？

我对当前进展感到振奋：我们建立了开放标准，多家企业正共同构建这套体系。Photoshop中已推出可用版本，实际落地应用指日可待。

要实现全面覆盖，需要生态链各环节企业达成共识。目前仍有部分企业持观望态度，许多厂商还在技术验证阶段，比如思考如何将这项技术整合到智能手机中。

虽然尚未普及，但自春季生成式AI和ChatGPT爆发以来，我们正见证越来越多企业加入阵营，他们终于意识到：“啊，这个问题确实存在。”

十年后我们消费图像的方式会变成什么样？

届时所有内容都将数字化，我们将面对前所未有的海量信息。每个人都有故事要讲述，这些故事会充斥网络空间。而验证内容真实性的重要性，将比任何时候都更为关键。

访谈内容经过编辑和压缩。

请写信给夏洛特·加滕伯格，邮箱：[email protected]，以及亚历克斯·奥索拉，邮箱：[email protected]