《华尔街日报》：伊甸园中的人工智能

互联网时代的黎明是如此激动人心。大约四分之一个世纪前，我带着我那对苹果电脑着迷的小学生儿子，去纽约参加了一场喧闹的会议，聆听史蒂夫·乔布斯的演讲。那是何等的热情。30年前在西部的一个研讨会上，我参加了年轻、头发蓬乱的纳森·梅尔沃德的讲座，他当时负责微软研究院，谈到了正在发生的事情：历史上一个新生事物正在诞生。

但一个微小而有趣的细节总是让我停下来思考，并一直留在我心中。那就是，这个时代的伟大象征从一开始就是即将成为最伟大公司的苹果的标志。那是一个大胆绘制的被咬了一口的苹果。这让我想起了伊甸园中的亚当和夏娃，亚当、夏娃与人类的堕落，在世界之初。上帝告诉他们不要吃那棵树上的果子，但蛇告诉夏娃吃了不会有任何问题，她会变得像神一样，知道一切。蛇说：这就是为什么他不希望你拥有它，你会和他平起平坐。于是她摘下果子吃了，又给了亚当，亚当也吃了，两人的眼睛就明亮了，第一次感到了羞耻。当上帝责备他们时，亚当责怪夏娃，夏娃责怪蛇。他们被逐出伊甸园，进入了我们居住的这个破碎的世界。

你可以将《旧约》中的这个故事视为神话、文学、真理诗或字面真理，但无论你如何理解它，其含义都是明确的。这是关于人类的骄傲和野心。提姆·凯勒认为这是人类古老的权力意志的一个例子。圣奥古斯丁说这是一个关于骄傲的故事：“骄傲不过是对不当提升的渴望？”

我一直认为苹果公司的标志：*这蕴含着某种深意。*我们正通过它接收到某种信息。并非乔布斯刻意为之——没有人会为一个新公司设计一个暗示"我们将走得太远"的图案。沃尔特·艾萨克森在其撰写的乔布斯传记中曾询问咬痕的寓意。乔布斯回答这只是为了让图标看起来更协调，没有这个缺口，苹果就像颗樱桃。

但我不禁怀疑，这个被咬了一口的苹果或许印证了卡尔·荣格的集体无意识理论。人类个体有无意识，整个社会、部落和民族同样拥有更广阔的无意识领域，其中储存着个体可能完全未察觉的原型、符号和记忆。这些深藏的意识终将以某种方式显现。我认为乔布斯与禁果标志的关系正是如此：他在无意中传递了某种信息。

对我而言，这个标志始终是对这个时代的警示。当前人工智能的讨论让我反复想起它——尽管"讨论"这个词并不准确，因为一方正激烈预警灾难将至，而另一方并未正面回应，只是从容地用机器人踢足球的欢乐视频来消解"卢德分子"的忧虑。

但发展AI就是咬下禁果。灾难必将降临。我相信那些创造、推动和资助AI的人——可能在无意识中——渴望成为上帝，并在某种程度上自以为就是上帝。最新发布的深思熟虑的警告报告用其专业语言强调了这一点。科技与AI投资者伊恩·霍加斯本周在《金融时报》撰文指出，若不加管制，他称为"类神AI"的终极人工智能可能导致"人类被淘汰或毁灭"。他指出该领域多数从业者都清楚这个风险。但人们的警觉还远远不够，他的同僚正"被快速进展的浪潮裹挟前行"。

无意识的动量以及人类的骄傲与野心正在推动事态发展。“很可能需要一场重大的滥用事件——一场灾难——来唤醒公众和政府。”

该领域的每个人都承认，不仅对人工智能的发展缺乏控制，而且根本没有制定控制计划。硅谷的创造者们掌握着主导权。他们对待工作的道德严肃性如何？机器智能研究所的负责人埃利泽·尤德科夫斯基在《时代》杂志中指出，今年二月，微软首席执行官萨提亚·纳德拉公开炫耀他的新必应人工智能将让谷歌“站出来展示他们能跳舞。我想让人们知道是我们让他们跳起来的。”

尤德科夫斯基先生表示：“在一个理智的世界里，微软的CEO不会这样说话。”

我在此直言不讳地说，过去30年里，我们不仅认识到了互联网和高科技的严重负面影响——为利益而政治极化、故意助长网络成瘾、童年的毁灭、一个国家变得肤浅且思考能力下降——我们还认识到，那些创造这一切的远见者，以及现在掌控人工智能的人，充其量只能说是值得争议地令人钦佩或印象深刻。

你不可能花了30年时间阅读关于他们的资料，听他们讲话，看他们的采访，却不明白他们半疯半癫。比尔·盖茨，他对自己的陈词滥调充满敬畏，分享他读过的所有书籍来帮助你，可怜的家伙，理解这个世界——人们怀疑他一生中除了偶然从未遇到过普通人，而且他总是发现新事物，因为内心深处他一无所知。眼神空洞的马克·扎克伯格，他也用他那巨大且极具特色的慈善事业收买世界，这样我们就看不到他内心那个谋划、汗流浃背的上帝替代者。谷歌本身，其创立时的座右铭是“不作恶”，却连这一朴素的愿望都无法实现。

硅谷的男男女女在科技发明方面展现了近乎天才的非凡才华。但由于人类与生俱来的虚荣心，他们误以为这种才华适用于所有领域。事实并非如此。他们并不特别睿智，思想也不深邃，正如我所说，他们的道德良知似乎发育不均。

这个新世界不能交由他们掌控。

每当我提出必须限制或停止人工智能发展时，话题总会立即转向中国。但"我们不能停下——不能让中国抢先！我们必须击败他们！“这样的论调毫无意义。如果中国摘取活体器官进行移植，难道我们也要效仿吗？（确实有人会赞同，其中不乏硅谷人士，但这恰恰证明不能任由他们毫无约束地发展AI。）

没人愿被称作卢德分子，没人想被贴上反进步标签，没人愿被指责杞人忧天。

但我们不能因这些顾虑而不敢承认恐惧。但凡具备想象力——尤其是道德想象力的人，都会感到担忧。这本该如此。

插图：大卫·戈萨德刊载于2023年4月22日印刷版，标题为《伊甸园里的人工智能》