《华尔街日报》：《网络时代，真相何在？互联网上已无人知晓》

过去，制作和传播具有说服力的宣传内容需要国家级的资源。如今，仅需一部智能手机即可实现。

生成式人工智能现已能够伪造图片、克隆人声，甚至生成歪曲世界事件的虚假视频。其结果是：从我们的私人社交圈到政治秀场，每个人都不得不质疑所见所闻的真实性。

我们早已被警示社交媒体可能扭曲世界观，而如今虚假误导信息在社交媒体上的传播潜力更甚以往。同样关键的是，接触AI生成的伪造内容会让我们怀疑所见一切的真实性——真实的影像与录音反而可能被当作伪造品。

麻省理工学院斯隆管理学院教授戴维·兰德（其团队专门研究虚假信息的产生、传播及影响）指出：“当向人们展示深度伪造和生成式AI作品时，实验结束后他们常会说’我再也不相信任何东西了’"。

斯坦福互联网观察站研究员蕾妮·迪雷斯塔表示，在生成式AI时代愈发严重的这一问题被称为”骗子红利"。

迪雷斯塔补充道，易于生成的虚假内容与"任何内容都可能是假的"这种怀疑心态的结合，使人们能够选择自己愿意相信的内容，从而形成她所说的"定制现实"。

由生成式AI制造的误导性内容在社交媒体上比比皆是。一张广为流传的虚假照片显示以色列民众沿街列队支持国家，其多处特征表明是AI生成——包括仔细观察就能发现的异常细节，如扭曲的身体和四肢。同理，一张声称展示西班牙足球赛现场挥舞巴勒斯坦旗帜球迷的广泛传播图片，也经不起推敲。

对于快速滑动屏幕、瞬间决定是否点赞或转发的用户而言，AI生成图片的迹象很容易被忽略。随着生成式AI技术持续进步，未来这些迹象可能会更难被察觉。

兰德表示：“我们的研究表明，大多数普通人并不想传播虚假信息——问题在于他们缺乏辨别意识。“他补充道，人们的注意力本就有限，而社交媒体的运作方式——鼓励我们大量消费内容，同时要求快速决定是否分享——使得我们几乎没有余力去判断信息的真伪。

随着越来越难辨别的虚假内容泛滥，如今有人以此为借口来否定真实信息也就不足为奇。例如今年早些时候，在一场关于特斯拉"全自动驾驶"系统致人死亡案件的诉讼中，埃隆·马斯克的律师面对其宣传该软件的视频证据时，竟以网络上存在大量马斯克的"深度伪造"视频为由，主张驳回这项证据。尽管该视频经核实确属真实，主审法官仍称这种辩护逻辑"令人深感不安”。

最近在TikTok和Twitter上，许多人声称以色列总理本雅明·内塔尼亚胡推文中哈马斯袭击以色列受害者的骇人照片是AI生成的。但专家指出，没有任何证据表明该图像经过AI修改或生成。

如果真实性的危机仅限于社交媒体，我们或许还能从与最亲近之人的交流中获得慰藉。但如今，即便是这些互动也可能充斥着AI生成的虚假内容。美国联邦贸易委员会现在警告称，听起来像是孙辈来电索要保释金的情况，可能是骗子从社交媒体上抓取了孙辈的录音，以此欺骗祖父母汇款。

类似地，新泽西州最近有青少年被发现使用AI工具制作同学假裸照进行传播。

尽管这些都是恶意案例，但像谷歌母公司Alphabet这样的企业，正试图将个人图像修改包装成好事。

其最新款Pixel手机推出了一系列升级工具，能自动将一张照片中的人脸替换为另一张照片中的同一人脸，或彻底快速移除照片中的某人。

让照片变得完美固然巧妙，但这同时也意味着真实个人记忆捕捉的终结——那些自然流露的怪癖与意外瞬间将不复存在。喜欢从官方照片中抹去不喜欢人物的约瑟夫·斯大林，想必会钟爱这项技术。

为谷歌辩护的是，它正在向图片附加数据中添加记录，标明图像是否被修改过。但这类元数据仅能在原始照片和部分副本中查看，且很容易被剥离。

加州大学伯克利分校专门研究数字取证和图像分析的教授哈尼·法里德表示，多种人工智能工具的快速普及意味着我们现在不得不质疑从身边社区到地缘政治等任何媒介中接触到的所有信息。

为了从历史背景中理解当下，他指出个人电脑革命让信息存储和复制变得容易，互联网让信息发布变得简单，移动革命让获取和传播信息比以往任何时候都更方便，而人工智能的兴起则让制造虚假信息变得轻而易举。而且每一次革命都比前一次来得更快。

并非所有人都认为让公众轻易接触人工智能会加剧我们面临的虚假信息困境。这类专家的主要论点是，互联网上现有的虚假信息已经远超个人能消费的量，因此再增加也不会让情况恶化。

即便这是事实，也并不能真正让人安心，尤其是考虑到无党派机构皮尤研究中心的调查显示，公众对机构的信任度已处于过去70年来的最低点之一，而衡量人们彼此间不信任程度的极化指标正处于历史高位。

“当我们对媒体、政府和专家的信任被侵蚀时会发生什么？”法里德说。“如果你不信任我，我也不信任你，我们如何应对疫情、气候变化，或举行公平公开的选举？这就是威权主义兴起的方式——当你削弱对机构的信任时。”

欲了解更多《华尔街日报》科技分析、评论、建议和头条新闻，请订阅我们的每周通讯。

本文刊登于2023年11月11日的印刷版，标题为《人工智能的崛起导致真相的衰落》。