AI是千年虫危机，只不过这次是真的——《华尔街日报》

最近一次聚餐时，有位熟人说了一句发人深省的话。我们像所有乐天派悲观主义者那样，讨论着21世纪究竟是从哪里开始走偏的。这个世纪已过去近四分之一，整体轮廓与特质已然成型，而在我看来，除了医学与科学领域的进步，这个世纪乏善可陈。他说自己正在研究一个理论：21世纪至今犹如一场反向的"千年虫危机"。

1999年12月31日，全世界都陷入恐慌，担心当时分23:59:59跳转为0:00:00时，所有强大的计算机系统都会崩溃。它们可能无法顺利过渡到2000年。整个系统将出现短暂故障，灯光随之熄灭。但这一切并未发生。人们发明了补救措施，或许正是这些措施挽救了局面。

这位熟人表示，恰恰是2000年之后，全球计算机系统开始在社会、文化和政治领域制造混乱。却鲜有人担忧、关注或采取防范措施。毕竟千年虫危机平安度过，这次大概也会没事。我们被动接受了所有技术淤泥——那些旨在分裂人类、向儿童传递有害信息、让他们对产品上瘾的算法——毫无警觉。

如今我们正以同样的被动态度接纳人工智能，寄望于它承诺的福祉（又是在医学和科学领域）能抵消其严峻而明显的威胁。今年早些时候，亨利·基辛格就曾在专栏中警示过这种威胁。“如果这项技术无法被控制会怎样？“他与合著者设问，“如果人工智能滋生出恶意元素会怎样？“基辛格是伟大的外交家与历史学家，却有着艺术家的想象力。人工智能与核战争可能性是他晚年最关注的两大议题。他对整个现代科技巨兽的走向忧心忡忡。

我曾写道，这个时代的伟大标志——苹果公司的标志（那个被咬了一口的苹果）在我看来，无论是有意还是无意，都表达了参与现代科技世界发展的人们在某种程度上意识到，他们的努力正将我们带回伊甸园，回到夏娃和亚当偷食禁果的关键时刻。蛇告诉夏娃，他们将变得像上帝一样全知，实际上与上帝平等，这就是为什么上帝不希望他们拥有禁果。她咬了一口，人类便被逐出美好的花园，被抛入残酷的粗糙世界。我相信，那些创造、推动和资助人工智能的人，可能无意识地想要成为上帝，并在某种程度上认为他们就是上帝。

许多人已经警告过人工智能的破坏性可能和能力，但《纽约客》最近一篇关于杰弗里·辛顿的文章中有一些重要的思考。杰弗里·辛顿被称为人工智能的教父。这篇由约书亚·罗斯曼撰写的文章写得非常精彩，思考深入。

75岁的辛顿先生是图灵奖得主，曾在多伦多大学担任计算机科学教授30年。他研究神经网络。后来，他创办了一家小型研究公司，该公司被谷歌收购，他在那里工作直到今年早些时候。离开后，他开始警告人工智能构成的“生存威胁”。他越使用ChatGPT，就越感到不安。他担心人工智能系统可能会开始独立思考；它们可能会试图接管人类文明，或者消灭它。

辛顿先生告诉罗斯曼先生，在他早期研究阶段曾目睹过一个"受挫的人工智能”。那是一台连接着两台电视摄像头和一只机械臂的计算机。系统被要求组装桌上散落的积木。它尝试了，但仅能识别单个积木。面对一堆积木时它陷入了困惑。“它微微后缩，然后猛地**撞了过去”，把积木撞得四处飞散。“它无法处理当前状况，于是用暴力改变了局面。”

辛顿先生表示并不后悔自己的研究，但担忧当权者会如何运用AI。弗拉基米尔·普京可能会制造"自主致命武器”——一种能自我决策的杀人机器。辛顿认为这类武器应被明令禁止。但即便是善意的自主系统也可能具有破坏性。

他认为人类对待AI有两种态度：否认或坚忍。当人们首次听说其毁灭潜力时，总说这不值得冒险，必须阻止。但阻止只是幻想。“我们需要思考的是，如何让人工智能对人类的危害尽可能减小？”

罗斯曼先生追问：为何不直接拔掉电源？AI依赖巨型服务器和数据中心，这些都需要电力维持。

很高兴看到这个问题被提出，因为我也曾有此疑问。

辛顿先生表示，质疑没有AI是否更好是合理的。“但这不可能实现。因为社会运作方式如此，也因为国家间的竞争。“如果联合国有效运作或许能阻止，但中国绝不会停下脚步。

我发现，AI爱好者们常挂嘴边的这一论点更像是一种辩解而非深思。如果中国开始以猎杀儿童为乐，我们是否也要效仿？（读到这里的硅谷人士，请说不。）

最令我深感不安的是，如果美国在AI领域全速前进，就等于将人类命运交到硅谷精英手中——正是这群人创造了如今充斥着污浊的互联网。他们存在某种根本性的缺陷，是种新型人类，智慧深邃却狭隘，满口连接与共情，内核却冰冷彻骨。他们似乎与千年来的伟大信仰割裂，与传统道德伦理体系及生命认知脱节。C.S.路易斯曾言，帝国兴衰、文化更迭，但今晨为你斟咖啡的服务员是永恒的，因其灵魂不朽。这般思想多数读者耳熟能详，却会让硅谷精英困惑眨眼。他们超前得近乎异类：有人为求长生注射20岁青年的血液，有人奉行极端断食。《华尔街日报》今夏报道硅谷高管们将常规吸毒从下班后的消遣彻底带入企业文化，视致幻剂（氯胺酮、迷幻蘑菇）为"商业突破的钥匙”。

当然，务必要把世界命运托付给这群人。他们可不算稳重。38岁的OpenAI掌门人萨姆·奥尔特曼上周戏剧性被炒，数日后复职，至今无人确知缘由。公众本应享有知情权。有传闻称某份内部备忘录向董事会警示了危险的AI新进展，但重要投资者矢口否认——这倒让我安心不少。

我们正将人类的命运交到无力承担之人手中。必须像对待真实的"千年虫"危机那样高度重视。

1999年12月16日，加州塔尔扎纳一家出售"千年虫"生存装备的商店图片来源：Myung J. Chun/洛杉矶时报 via Getty Images刊载于2023年12月2日印刷版，标题为《人工智能是真正的"千年虫"危机》