狗仔队照片曾是名人的噩梦如今，人工智能取而代之——《华尔街日报》

一张教皇方济各身着时尚白色羽绒服的合成图片对许多人来说是个有趣的网络爆红瞬间。但人工智能专家表示，其背后影响绝非儿戏。

多位研究者指出，这张由AI图像生成器Midjourney制作的图片预示着虚假信息浪潮即将来袭，未来伪造照片将比以往任何时候都更具欺骗性。即便是专攻AI与社交媒体领域的专家，有时也难以辨别真伪。

“我认为这张教皇图像达到了惊人的写实效果，“斯坦福大学传播学教授、斯坦福社交媒体实验室创始主任杰夫·汉考克评价道，“所有细节都恰到好处，没有任何明显失真痕迹。”

人工智能已渗透日常生活，从膳食规划到论文撰写乃至癌症检测无不优化。虽然该技术的全部潜力尚未完全释放，但Midjourney、ChatGPT、DALL-E 和Stable Diffusion等工具已被广泛用于生成极易在网络传播的图文内容（此前DALL-E曾无法编辑真实人脸图像，但该限制已于去年9月解除）。

这些工具也使得滥用公众人物肖像的行为更为猖獗。去年秋季，莱昂纳多·迪卡普里奥和埃隆·马斯克等名人的面孔未经许可出现在广告中，而NBC新闻报道显示，上个月女演员艾玛·沃森的脸部被用于某换脸手机应用的广告，制作具有性暗示的视频内容。

“如今任何网络喷子只需敲几下键盘、点一下鼠标，就能生成足以欺骗人类的逼真图像，”密歇根大学电气工程与计算机科学助理教授安德鲁·欧文斯表示。

开发Stable Diffusion的Stability AI公司发言人在声明中称，公司正在寻求方法应对AI制造虚假信息的潜在风险。

“我们正与数字安全领域的顶尖企业和研究人员合作，为这一问题制定安全长效的解决方案，”发言人表示。Midjourney、ChatGPT和DALL-E的代表未回应置评请求。

上周，当特朗普可能被捕的消息传开时，推特上充斥着这位前总统被警察逮捕、制服和押送的图片。其中许多图像由Midjourney生成，该平台同样被用来制作虚假的教皇照片。

卡内基梅隆大学海因茨信息系统与公共政策学院的数字媒体与营销教授阿里·莱特曼认为，日益精密的AI生成图像泛滥，标志着虚假新闻传播进入了新阶段。

“可以说这是一种技术演进，”莱特曼表示。

专家指出，社交媒体上发布的图像往往缺乏背景说明，观众可能会信以为真。随着AI图像生成技术持续进步，假图的常见破绽——比如手指数量异常或眼球形状怪异——将逐渐消失。

“当它以‘哦，看，这可能是假的’这样的语境呈现时，你的蜘蛛感应当然会活跃起来，”蒙特利尔人工智能伦理研究所创始人兼首席研究员阿布舍克·古普塔说道。“但在一般情况下，如果你只是在浏览，你可能只会对图片一笑而过，继续滑动屏幕，而不是一直质疑图片的真实性。”

米金兹·塞内夫，一位21岁的加州大学圣克鲁兹分校的学生，当她在推特上看到一段视频，内容是流行歌手哈里·斯泰尔斯与模特、作家兼播客主持人艾米丽·拉塔科夫斯基接吻时，她停了下来。塞内夫女士说，这看起来很奇怪，她以为这些名人被误认了。

在阅读了一篇疯传的推特帖子，暗示这段视频是由AI生成的之后，她开始相信这一点。

“AI真的很强大，”塞内夫女士说。“所以对我来说，‘哦，这段视频看起来像是假人’这样的想法并不遥远。”她说，如果这个理论是真的，那就可以解释为什么视频如此模糊，为什么两人的姿势如此尴尬——更不用说这个展示的极其公开的性质，看起来是在东京的街头，靠在一辆面包车上。拉塔科夫斯基女士的发言人没有回应评论请求，斯泰尔斯先生也无法联系到评论。两人都没有公开评论这些照片，这些照片最初出现在《每日邮报》上，没有摄影师署名。

专家表示，当人物的图像颗粒感强且面部难以辨认时，很难确定它们是否真实。理论上，生成一对真实名人情侣拥抱的静态图像相对容易。

“凭借强大的计算机能力，我们可以让图像按照我们的意愿进行各种处理，”莱特曼先生说，“比如以特定方式扭曲它们，添加像教皇派克大衣这样的特定服饰。”

但他们补充道，对人工智能而言，制作逼真的真人视频仍是一项艰巨任务，因为人眼能察觉最细微的动作异常。视频本质上是一系列不同的图像，每帧画面都必须令人信服——这是机器学习尚未完全实现的。不过专家表示，这项技术正在发展中，且进展速度可能超出预期。

在查看了更多从不同角度拍摄的这对夫妇照片后，塞内夫女士表示她现在相信视频是真实的。但这段经历让她对充满AI生成视觉虚假信息的未来更加忧虑。

“我觉得可怕的是，AI生成的东西看起来如此真实，”她说，“而真实的东西反而可能被当作AI产物。”

雪城大学政治学助理教授张宝宝表示，关于名人照片真实性的争论只是冰山一角。她提到最近在Reddit上看到有人用AI生成真实历史事件的伪造版本。

“我认为社交媒体上存在真实的风险，”张博士说。

莱特曼先生表示，他也担忧AI生成图像操纵经济的能力。例如，一张CEO做可疑之事的假图像可能导致股票价值下跌，并可能损害整个金融行业。

“我认为我们将迎来一个转折点，届时错误信息对社会造成的危害将变得尖锐而明显，”莱特曼先生表示。

对图像真实性的极端怀疑也可能演变为偏执。在加蓬，2019年一场推翻政府的未遂政变始于多疑的民众散布总统已死的谣言，并声称他在新年夜发布的视频是深度伪造的。

汉考克先生则更为乐观，他表示相信人类会逐渐适应并识别出差异。他指出，人们已经开始对AI生成图像可能带来的错误信息发出警告，这本身就是一个积极的信号。

联系阿什利·王，邮箱：[email protected]

本文刊登于2023年4月4日印刷版，标题为《AI照片引发名人烦恼》。