尤瓦尔：人工智能对我们的操控，可能比你想的更严重_风闻

导言

2023年4月29日在Frontiers论坛上，《人类简史》《未来简史》《今日简史》的作者尤瓦尔·赫拉利发表了关于“人工智能与人类的未来”主题的演讲。

他认为，人工智能正在以超过人类平均水平的能力掌握语言。而通过掌握语言，人工智能正在掌握入侵人类文明系统的钥匙。人工智能对我们的威胁，可能比想象的更严重。

今天我想和大家谈的是人工智能和人类的未来。

我知道这次会议的重点是人类正面临的生态危机，而人工智能无论好坏都是这场危机的一部分。人工智能可以在很多方面帮助我们解决生态危机，但也可以加剧危机。

事实上，人工智能可能会改变生态系统的意义。因为，40亿年以来地球的生态系统只包含有机生命形式，而现在或不久的将来我们可能会看到第一批无机生命形式的出现，或至少是无机媒介的出现。

自二十世纪中叶计算机时代开始，人们始终对人工智能怀有恐惧，这种恐惧激发了许多经典科幻作品的诞生，如《终结者》《黑客帝国》等。

虽然这类科幻场景已经成为文化符号，但它们通常不会在学术、科学和政治辩论中被严肃对待。这也是可以理解的，因为科幻作品一般会作这样的假设：人工智能构成对人类的重大威胁之前，它必须跃过两个重要的里程碑——首先，人工智能必须变得有知觉，发展出意识、感觉和情感，否则它为什么想要接管世界；其次，人工智能必须适应在物理世界中给自己定位，机器人必须能够像人一样高效地在房屋、城市、山脉和森林中移动和运转，如果他们无法在物理世界中移动，那怎么可能接管这个世界？

在2023年4月之前，人工智能似乎还远远没有到达这两个里程碑，尽管人们围绕ChatGPT和其他新的人工智能工具进行了大肆宣传，但没有证据表明这些工具有一丝意识、感觉或情感。至于在物理世界中活动，虽然自动驾驶技术一直算热门话题，但汽车主宰人类道路的时间仍一直在推迟。

然而，坏消息是人工智能要威胁人类文明的生存，并不真正需要意识，也不需要在物理世界中移动的能力。

在过去的几年里，新的人工智能工具被运用到公共领域，可能会从一个非常意想不到的方向威胁到人类文明的生存。我们甚至很难理解这些新型人工智能工具的能力，以及它们持续发展的速度。

事实上，因为人工智能能够自我学习并自我改进，即使是这些工具的开发者也不知道他们所创造的东西的全部功能，他们自己也经常对这些工具的新能力和高品质感到惊讶。

我想在座的每个人都已经了解新型人工智能工具一些最基本的能力，像写作、绘画、作曲和编写代码等能力。还有许多其他功能正在涌现，比如深度伪造人们的声音和图像，起草法案，找出计算机代码、合同和法律文书中的漏洞。但也许最重要的是，新的人工智能工具有能够与人类建立深厚而亲密的关系的能力。

这些能力中的每一项都值得充分讨论，我们很难理解它们的全部含义，所以把这个问题简单化。如果把所有这些能力当作一个整体，就可以总结为一个非常非常大的东西——操纵和生成语言的能力，无论是用文字、图像还是声音。

当前人工智能革命最重要的方面是，人工智能正在以超过人类平均水平的能力掌握语言。通过掌握语言，人工智能正在掌握打开从银行到寺庙等所有机构大门的万能钥匙。因为语言是我们用来向银行发出指令的工具，也是我们头脑中做出重大决定的工具。

从另一个角度来看这个问题，那就是人工智能刚刚入侵了人类文明的操作系统。历史上每一种人类文化的操作系统都是语言，在这个文明世界的开端，我们用语言创造神话和法律，创造神和金钱，创造艺术和科学，创造友谊和国家。

例如，人权不是生物学上的客观事实，它没有刻在我们的DNA中，人权是我们用语言通过讲故事和制定法律创造出来的东西；神也不是生物的或物理上的现实，而是我们人类用语言再通过传说和经文创造出来的；金钱当然也不是物理存在，钞票只不过是一张张毫无价值的纸，而目前世界上90%以上的钱甚至都不是钞票，它只是电脑中传输的电子信息，能赋予金钱各种价值的只有故事。

不少银行家、财政部长和加密货币大佬他们并没有创造多少真正有价值的东西，但他们都是极有能力的故事讲述者。

▲尤瓦尔·赫拉利，牛津大学历史学博士，青年怪才、全球瞩目的新锐历史学家

今天，在像国际象棋这样的游戏中，没有人能打败计算机。如果同样的事情发生在我们的政治、经济甚至宗教领域呢？

当人们想到ChatGPT和其他新的人工智能工具时，经常会被这类例子吸引，比如孩子们使用ChatGPT写论文。一旦孩子们用ChatGPT写论文，学校系统将会发生什么？太可怕了。

但这类问题忽略了大局，姑且放下学校的论文吧，比如说，我们应该谈论2024年的下一届美国总统大选，尝试着想象新的人工智能工具可以带来的影响，这些工具可以为某种新的邪教利用，大规模制造政治宣言、假新闻故事和这一教派自己的圣经。未来，我们可能会看到历史上第一个由非人类智能创作圣经的宗教。

当然，历史上的宗教都声称他们的圣经是由非人类智慧创作的，这在此之前是不可能的，但很快就会成为现实，并影响深远。

现在，在一个更平淡的层面上，我们可能很快就会发现和自己在网上长时间讨论堕胎、气候变化或俄乌冲突的人——你以为是人类同胞，实际上是人工智能机器人。

问题是，我们浪费时间试图说服人工智能机器人改变其政治观点是毫无意义的，但我们与它交谈的时间越长，它就越了解我们，了解如何磨练它的信息，以改变我们的政治观点、经济观点或其他任何东西。

通过对语言的掌握，人工智能也可以与人建立亲密关系，并利用亲密的力量来影响我们的观点。

正如我所说，没有迹象表明人工智能有任何意识或自己的感情，但为了与人类建立虚假的亲密关系，人工智能不需要自己的感情，它只需要能够激发我们的感情，让我们对它产生依恋。

2022年6月，谷歌工程师布莱克·莱莫因（Blake Lemoine）公开声称，他正在研究的人工智能聊天机器人LaMDA已经有了感知能力。这件事最有趣的不是莱莫因的说法，他的说法很可能是错的，他最终也失去了工作。真正有趣的是，他愿意冒着失去高薪工作的风险去保护这个人工智能聊天机器人。

如果人工智能可以影响人们去冒失去工作的风险，它还能诱使我们做什么呢？

在每一场心灵和思想的政治斗争中，亲密关系是最有效的武器。人工智能刚刚获得了与数亿人大规模产生亲密关系的能力。

你们可能都知道，在过去的十年里，社交媒体已经成为控制人类注意力的战场。现在，随着新一代人工智能的出现，战场正从注意力转向亲密关系，这是一个非常坏的消息。

当人工智能为了与我们建立亲密关系而战斗时，人类社会和人类心理会发生什么变化？这些关系也可以用来说服我们购买特定的产品或投票给特定的政治人物。

即使没有制造虚假的亲密关系，新的人工智能工具将对人类的观点和世界观产生剧烈的影响，并且成为人类需要的所有信息的来源。

当可以让人工智能告诉我任何想要的东西时，为什么还要自己搜索？当可以让人工智能告诉我有什么新闻时，为什么还要读报纸？当我可以让人工智能告诉我该买什么的时候，广告的意义和目的又是什么呢？

很有可能在很短的时间内，整个新闻广告行业将崩溃，而人工智能或控制人工智能的人和公司将变得非常非常强大。

我们可能谈论的是人类历史的终结，但这并不是历史的终结而只是人类统治时代的终结。

当人工智能接管文化时，历史进程会发生什么？几年之内，人工智能可以消化掉整个人类文化，消化掉那些我们几千年来创造出来的所有东西，并开始产出大量新的文化创作、新的文化产物。

记住，我们人类从来没有真正直接接触过现实。我们总是被文化所束缚，我们总是通过文化的牢笼来体验现实。我们的政治观点受到记者的报道和朋友的故事的影响，我们的性取向受到电影和童话的影响，甚至我们走路和呼吸的方式也受到文化传统的影响。

在此之前，这个文化茧房总是由其他人编织而成。以前的工具，如印刷机、收音机或电视，它们有助于传播人类的文化思想和创造，但它们永远无法自己创造出新的东西。印刷机不能出一本新书，这是由人来完成的。

人工智能从根本上不同于印刷工艺，不同于无线电，不同于历史上的任何一项发明，因为它可以创造全新的想法，可以创造一种新的文化。

在最初的几年里，人工智能可能会在很大程度上模仿初期“哺育”它的人类原型，但随着时间的推移，人工智能文化将大胆地走向人类从未涉足的领域。

几千年来，我们人类基本上生活在他人的梦想和幻想中。我们崇拜神灵，我们追求美的理想，我们把自己的生命奉献给源于某些人类诗人、先知或政治家想象的事业。很快，我们可能会发现自己生活在人工智能的梦想和幻想中。

如何处理这种潜在的危险与科幻作品的想象非常不同。此前，人们主要担心的是智能机器带来的人身威胁，所以在《终结者》中机器人在街上奔跑，射杀人类；《黑客帝国》则假设要想完全控制人类社会，人工智能首先需要控制人类的大脑，并将大脑直接连接到计算机网络，但这是错误的。

只要掌握了人类语言，人工智能就能在一个像矩阵一样的幻想世界中生存。真的不需要为了控制和操纵人类而在他们的大脑中植入芯片，几千年来，先知、诗人和政治家们一直使用语言和讲故事来控制、操纵人类，重塑社会，现在人工智能很可能就能做到这一点。

它不需要让杀人机器人来射杀我们，如果真的需要，它完全可以让人类自己来扣动扳机。

**作者：**尤瓦尔·赫拉利，牛津大学历史学博士，青年怪才、全球瞩目的新锐历史学家

来源：中信出版