AI不仅会撒谎，还能让你信以为真——彭博社

F.D. Flam

2025-08-09

不要轻信你所看到的一切。

摄影师：d3sign/Moment RF人工智能及相关技术带来的更隐蔽且阴险的威胁之一，是其篡改记忆的能力。

心理学家伊丽莎白·洛夫特斯在过去50年里证明了人类多么容易被操纵去记住从未发生过的事情——尤其是在检察官和警察询问证人时。

如今，加州大学欧文分校教授洛夫特斯与麻省理工学院的研究人员合作，探索人工智能如何操纵我们自认为记得的内容。这种操纵甚至发生在受试者明知自己看到的是AI生成的文本和图像时。研究结果表明，人工智能可能放大人类植入虚假记忆的能力。

彭博社观点* 得州押注拉丁裔将转向共和党，这是一场冒险

美国正在削弱其在体育领域的软实力
一位意外成为艺术收藏家的人物肖像
全世界都关注的修订在始于20世纪70年代的一系列著名实验中，洛夫特斯证明，通过适当的暗示，心理学家可以植入人们童年时在购物中心走失，或野餐时因鸡蛋或草莓冰淇淋生病的记忆。后者甚至让人们开始排斥这些食物。尽管有这些证据，我们仍无法摆脱记忆就像事件录音带的观念——这种对自身思维的误解让我们变得脆弱。

“那些坚持这种录音机式记忆模型的人似乎没有意识到，记忆其实是一个建构的过程，”洛夫特斯解释道，我们的大脑通过不同时间获取的零碎片段来形成记忆。我们直觉上认为遗忘就是记忆的消失或褪色，却忽略了虚假细节的添加。

洛夫特斯还在研究“推手民调”对思维的扰乱潜力，这种调查方式会在问题中植入错误信息，例如：“*如果**你知道乔·拜登曾因逃税被定罪，你会怎么看他？”*她表示，想到人工智能能大规模高效实施这类欺骗，就令人不寒而栗。

麻省理工学院媒体实验室研究员帕特·帕塔拉努塔波恩指出，记忆操纵与用深度伪造技术欺骗人们是完全不同的过程。你不需要精心伪造《纽约时报》网站——只需让人们相信他们过去曾在那里读到过某些内容。“人们通常不会质疑自己的记忆，”他说。

帕塔拉努塔波恩是三项记忆实验的主要作者，其中第一项实验展示了聊天机器人审讯者如何通过问题中嵌入暗示来改变证人证词——这是洛夫特斯早期人类审讯研究的AI延伸。

该研究中，参与者观看了一段武装抢劫的视频。随后部分人被问及误导性问题，例如：“劫匪停车的地方附近有监控摄像头吗？” 约三分之一的参与者后来回忆称看到劫匪乘车抵达。实际上根本没有车。这种虚假记忆甚至一周后仍然存在。

受试者被分为三组：一组未接受误导性问题，另一组以书面形式接收，第三组则通过AI聊天机器人获取。聊天机器人组形成的虚假记忆数量是书面接收误导信息组的1.7倍。

另一项研究显示，不诚实的AI摘要或聊天机器人能轻易将虚假记忆植入人们阅读的故事中。帕塔拉努塔波恩指出，更令人担忧的是，接收误导性AI摘要或对话的参与者对阅读材料中真实信息的记忆更少——且对自己回忆的真实信息信心更低。

第三项研究展示了AI如何通过图像和视频植入虚假记忆。研究人员将200名志愿者分为四组，每组参与者查看24张图片——部分为新闻网站常见图像，其余则是个人照片（如社交媒体发布的婚礼照片）。

几分钟后二次查看时，各组看到不同版本的图像：第一组看到原始未修改图片；第二组看到AI修改版；第三组观看由AI修改图片生成的短视频；最后一组观看完全由AI生成并转化为视频的图像。

即便是看过原始图像的组别也保留了一些虚假记忆——考虑到回忆24张不同图片的难度，这并不令人意外。但接触过任何程度AI篡改内容的参与者报告的虚假记忆明显更多。记忆扭曲率最高的组别是观看了基于AI生成图像制作的AI生成视频的人群。

年轻人比老年人稍更容易接受虚假记忆。而教育水平似乎并不影响易感性。值得注意的是，这些虚假记忆并不依赖于欺骗参与者相信AI生成内容是真实的——他们从一开始就被告知会看到AI创作的内容。

在图像实验中，部分篡改涉及背景变化——在公共集会中添加军事存在或改变天气状况。这些图像保留了原始版本的大部分特征。正如我从专家处了解到的，要产生实际影响，虚假信息必须包含至少60%的真实内容。

这项最新研究应促使我们更多讨论技术对人类现实认知的影响，这种影响远不止于传播错误信息。社交媒体算法还通过制造流行度和影响力的虚假印象，促使人们接受边缘观点和阴谋论。

AI聊天机器人将对我们产生更微妙且意想不到的影响。我们都应保持开放心态接受新事实和有力论据带来的观点改变——同时警惕那些通过扭曲所见、所感或所记来改变我们思想的企图。

更多来自彭博观点的内容：

想要更多彭博观点？OPIN <GO>。 或订阅****我们的每日通讯。