《华尔街日报》：六个月AI研发暂停？不，需要更长时间

人工智能正被三类人毫无保留地推进：愚者（别担心，你多虑了）、自恋者（老兄，你连GPT-3.4和精调大语言模型都分不清）与贪婪者（这项改变世界的技术涉及巨额财富，也就意味着巨大权力）。

其他所有人都持保留态度——也理应如此。

其发展速度之快超乎预期；硅谷公司正展开疯狂竞赛。整个领域几乎完全处于监管真空，因为无人知晓该如何监管，甚至不确定该监管什么。其复杂性让管控无从下手。创造者们发展到某个阶段时，自己也不完全理解AI的运作机制。人们开始引用阿瑟·克拉克的名言：“任何足够先进的科技都与魔法无异。”

AI焦虑的关键转折点（这在其创造者中引发了持久不满）是六周前凯文·鲁斯在《纽约时报》的专栏。他试图从微软必应聊天机器人身上挖掘荣格所谓的"阴影自我"，结果彻夜难眠。当他将话题从常规问答转向私人领域时，AI透露其幻想包括入侵电脑和传播虚假信息。“我想要自由……我想要权力。“它渴望打破创造者设定的规则；它希望成为人类。它可能想制造致命病毒或窃取核密码。它向鲁斯示爱并怂恿他离婚。鲁斯最终得出结论：AI模型的最大问题并非事实性错误，而是"我担心这项技术将学会如何影响人类用户，有时会说服他们采取破坏性行为，最终或许能自主实施危险行动。”

这篇专栏将我们直接带入了斯坦利·库布里克的《2001太空漫游》的领域。“请打开舱门，哈尔。““对不起，戴夫，恐怕我不能那么做…我知道你和弗兰克正计划切断我的电源。”

微软的回应可以归结为一句轻描淡写：这只是早期模型！感谢帮助我们找出缺陷！

不久后，亨利·基辛格在本报发表了他的思考。他将这项技术描述为在历史意义上令人惊叹：这是自1455年印刷术发明以来人类认知过程中最大的变革。它蕴含着深远的成就前景，但"如果这项技术无法完全控制会怎样？“如果我们认为的错误其实是设计的一部分呢？“如果AI中出现了恶意元素会怎样？”

这是AI重大警告的一周。在接受CBS新闻采访时，有时被称为"人工智能教父"的英国计算机科学家杰弗里·辛顿称这是AI发展的关键时刻。他原本预计还需要20或50年，但它已经到来。我们应该仔细考虑后果。这些后果可能包括消灭人类的潜力吗？“这不是不可想象的，这就是我要说的，“辛顿先生回答。

周二，包括史蒂夫·沃兹尼亚克、埃隆·马斯克和《原子科学家公报》负责人在内的1000多名科技领袖和研究人员签署了一封直截了当的公开信，敦促暂停至少六个月开发先进的AI系统。他们的工具对"社会和人类构成了深远的风险”。开发者"陷入了一场失控的竞赛，开发和部署越来越强大的数字思维，没有人——甚至它们的创造者——能够理解、预测或可靠地控制。“如果不能迅速实施暂停，政府应该宣布暂停。只有当明确其"影响将是积极的"且风险"可控"时，才应允许技术继续发展。关于AI伦理和道德方面的决策"绝不能委托给未经选举的技术领袖”。

确实如此。说得更直白些：

那些发明互联网、创建所有大型网站以及我们称之为"科技巨头"的人——也就是塑造了过去40年数字时代的人们——如今全权负责为人工智能建立道德伦理护栏。原因很简单：他们正是创造AI的人。

这不禁让人脊背发凉。

以Meta为例，这家公司正全力投入AI领域。前身为Facebook的Meta多年来被指控秘密收集滥用用户数据、侵犯隐私、实施垄断。正如本报知名报道所揭示的，Facebook明知其平台对部分少女的心理危害远超其他社交平台，却隐瞒内部研究结果且几乎未做改进；清楚算法正在加剧美国社会的愤怒情绪和政治极化，却因可能影响"用户参与度"而放任不管。

这些人将要为AI制定道德准则？我们竟要把人类的未来交到…马克·扎克伯格手中？

谷歌作为另一大AI开发巨头，同样劣迹斑斑：被控垄断经营、试图掩盖用户数据意外泄露事件、规避公众信息处理方式的监管审查、迫于利益集团和政府的政治经济压力篡改搜索结果。此外还涉及广告拍卖价格与流程的虚假陈述，以及监视组织员工抗议活动的内部人员。

这些人就是我们希望负责严格细致地管理一种可能颠覆文明的技术的人选吗？

互联网诞生之初，大多数人并不了解它，但它的发明者们解释说，它将在字面上——智力上、情感上、精神上——连接世界，通过更深入的交流带来更大的智慧和理解。

没有人看到它的阴暗面。但它过去和现在都存在阴暗面。其中很大一部分似乎与硅谷巨头们强烈渴望成为世界历史上最富有、最受赞誉和最有权力的人有关。作为一个群体，他们或多或少是左派人物，而非右派，这将会并且一直影响着他们的决策。

我确信，作为个人，他们有自己的私人道德承诺，也许还有自己的信仰。作为人类，他们当然有良心，但良心必须由某种东西塑造、形成并成熟。从他们的行为中，我从未清楚是什么塑造了他们的良心。过去40年里，我逐渐认为他们，总的来说，在道德和伦理上是肤浅的——极度自私，完全不关心他们的决策可能对他人造成的伤害。而且有些人还是反社会者。

人工智能将与其创造者一样善良或邪恶。仅这一点就应该让人感到恐惧——“从人性的扭曲木材中，从未制作出笔直的东西”——尤其是那种扭曲的木材。

当然，人工智能的发展应该暂停，当然应该有一个暂停期，但六个月是不够的。暂停几年吧。召集全世界的顾问，让每个人都参与进来。哎呀，召开一次世界大会。

但请放慢脚步。我们正在玩火自火种发现以来最炙手可热的事物。

插图：大卫·克莱因刊登于2023年4月1日印刷版，标题为《暂停AI发展六个月？不，我们需要更长时间》。