耶夫根尼·莫洛佐夫：人工智能的真正威胁是什么？
【文/耶夫根尼·莫洛佐夫 译/马力】
今年5月，350多名技术高管、研发人员和学术专家共同签署了一份声明，警告称人工智能技术将给人类带来生存威胁。签署者们警告说：“降低人工智能带来的灭绝风险应与瘟疫、核战，以及其他大型社会风险一起成为全球优先事项。”
此前，埃隆·马斯克（Elon Musk）和苹果公司联合创始人史蒂夫·沃兹尼亚克（Steve Wozniak）等人签署了一封备受瞩目的公开信。他们在信中呼吁，人类应暂停开发高级人工智能系统六个月。
3月，埃隆·马斯克联合行业专家发表公开信，要求暂停人工智能训练至少六个月。
与此同时，拜登政府敦促开展负责任的人工智能创新（responsible A.I. innovation），提出“为了抓住人工智能技术所带来的机遇，必须首先进行风险管理。”在国会上，参议员查克·舒默（Chuck Schumer）呼吁就人工智能技术的潜力和风险召开“首次”听证会，为行业高管、专家学者、民权人士和其他利益相关者提供速成课程。
人们对人工智能技术的焦虑日益严重，这不是出于对那些乏味但可靠的技术的担忧——输入法的自动联想或者吸尘机器人躲避障碍物并不会让人们如此忧虑。在专家们看来，通用人工智能（Artificial General Intelligence, AGI）的崛起才是最大的问题。
目前，通用人工智能还没有出现，但一些人认为，美国人工智能公司OpenAI旗下ChatGPT迅速发展的能力表明，距离这种技术的出现已经近在咫尺。OpenAI的联合创始人萨姆·奥特曼（Sam Altman）将其描述为“整体而言比人类更聪明的系统”。研发这种系统是一项艰巨的任务（也有人说是不可能完成的任务），不过其中的利益也极其诱人。
想象一下，Roombas（美国著名机器人公司iRobot的旗舰产品）不再只是自动吸尘器，而是进化为全能机器人，甚至可以在未被编程的情况下就在早上为你煮好咖啡或熨好衣服。
这听起来的确很有吸引力。但是，如果这些全能机器人变得过于强大，它们背负着“创造一个一尘不染的乌托邦”的任务，就会给到处散播灰尘的主人（也就是人类）造成很大困扰。至少我们曾经相处得还不错。
美剧《生活大爆炸》剧照
关于通用人工智能的讨论往往充斥着这样世界末日般的场景描绘。然而一个由学者、投资人和企业家组成的新兴通用人工智能游说团体反驳说，一旦通用人工智能的安全性得到保证，它将为人类文明带来福音。萨姆·奥特曼作为这次活动的代言人，已经开始了全球巡回演讲，以说服立法者们。他在今年早些时候写道，通用人工智能甚至可以加速经济发展，推动科学技术进步，并“通过增加财富来提高人类素质”。
这就是为什么，即使忧心忡忡，还是有许多科技行业的聪明人在努力开发这种备受争议的技术：不用它来拯救世界似乎已经变得不道德了。
他们普遍受到一种观点的影响，即这项新技术的出现是不可避免的，而且当该技术变得安全时，将惠及全人类。支持者们认为通用人工智能是弥补人性缺点、提升人类智慧的最佳方案。
但这种观点（姑且称之为“通用人工智能主义”）搞错了。通用人工智能的真正风险在于政治方面，而这个问题是无法通过平定机器人起义来解决的。即便是最安全的人工智能，也无法向游说组织承诺的那样，提供进步的灵丹妙药。而且，把该技术的出现说成是不可避免的，分散了人们寻找更完善的人工智能技术的注意力。
通用人工智能的拥护者们并不知道，“通用人工智能主义”只是一种更宏大的意识形态的“私生子”。关于这种意识形态，英国前首相玛格丽特•撒切尔（Margaret Thatcher）夫人曾有一个著名的说法：人类除了拥抱市场，别无选择（There is no alternative）。
与其说通用人工智能——或者至少是急于建立通用人工智能的行为——会像奥特曼先生暗示的那样，伤害资本主义，不如说它更有可能为新自由主义——资本主义最具破坏性的信条——创造出一个强大的（而且更时髦的）盟友。
新自由主义的理念家们为私有化、市场竞争和自由贸易着迷，希望通过市场经济和放松管制来推动并改造停滞不前的、劳动力友好型经济。
他们这样做，的确带来了一些转变，但代价也是巨大的。多年来，新自由主义受到了许多批评。人们认为经济大衰退、金融危机、特朗普主义、英国脱欧和其他许多问题都是新自由主义引发的结果。
这样看来，拜登政府与这种意识形态保持距离，并承认市场有时会出错，也就不足为奇了。一些基金会、智库和学术界人士甚至已经为后新自由主义（post-neoliberal）的前景作出了设想。
然而，新自由主义还远未消亡。更糟糕的是，它在“通用人工智能主义”的崛起中找到了盟友，后者也持有甚至更加强调新自由主义的某些主要偏激观点，即私人行为者的表现要优于公共行为者的表现（市场偏见），与其改变现实不如适应现实（适应偏见），提高效率比回应社会关切更加重要（效率偏见）。
这些偏见完全颠覆了通用人工智能背后诱人的前景：人们为研发技术所付出的努力非但没有拯救世界，反而只会让这个世界变得更糟。接下来我将解释为什么。
通用人工智能永远无法克服市场对利润的渴望。
还记得优步（Uber）曾以低廉的价格吸引众多城市将自己纳入公共交通系统吗？最初一切都很美好，优步承诺，未来将实现自动驾驶和最低劳动力成本，提供难以置信的廉价乘车服务。财大气粗的投资者看好这一愿景，甚至愿意承担优步数十亿美元的亏损。但现实情况是，自动驾驶技术迟迟无法落地。投资者们需要回报，于是优步被迫提高价格。而指望通过优步来代替公交车和火车的用户被丢弃在一边。
优步商业模式背后的新自由主义理念在于，私营部门可以比公共部门做得更好，这就是市场偏见。
不仅仅是城市公共交通，医院、警察局，甚至五角大楼，都对硅谷的高科技公司形成了越来越严重的依赖。随着通用人工智能的发展，人们对这种技术的依赖只会越来越深。尤其是因为通用人工智能具有无限的范围和野心，如果它要搞破坏，任何行政机构或政府服务部门都将束手无策。
而且，通用人工智能甚至在研发成功之前，就能把人骗进来。这是Theranos公司带给我们的教训。这家初创公司曾是美国精英们的宠儿，承诺通过革新血液检测技术来“解决”医疗问题。虽然从未研发出货真价实的技术，但公司的受害者却都是真实存在的。
Theranos 是一家独角兽公司，承诺通过仅用一滴血进行多次快速血液检测来颠覆医疗行业,并彻底改变实验室检测模式。该公司由 19 岁的伊丽莎白·霍姆斯 (Elizabeth Holmes) 于 2003 年创立。2015 年，《福布斯》将她评为最年轻、最富有的女性企业家亿万富翁，估值为 90 亿美元，在欺诈行为曝光后，Theranos 烧掉了 9 亿美元的投资资金，800 名员工失业。
在经历了这么多类似优步和Theranos带来的创伤后，我们已经知道通用人工智能的推出会给我们带来什么。其推广将分两个阶段展开。首先通过大量补贴展开魅力攻势，然后便图穷匕见，从补贴政策中撤退，而过度依赖该技术的用户和机构将不得不接受公司为维持盈利所制定的高昂价格。
硅谷大佬们一如既往地淡化了市场的作用。在最近一篇名为《为什么人工智能将拯救世界》（Why A.I. Will Save the World）的文章中，科技行业知名投资人马克·安德森（Marc Andreessen）甚至宣称，人工智能技术“和其他技术一样，由人类拥有并受人类控制”。只有风险资本家才擅长使用如此精妙的话术。大多数现代技术都被公司所拥有，他们（而不是传说中的“人类”）把拯救世界变成一门赚钱的生意。
此外，这些科技公司真的在拯救世界吗？截至目前，他们的表现没什么说服力。像Airbnb和TaskRabbit这样的公司被陷入困境的中产阶级视为救世主；特斯拉的电动汽车被当作应对全球变暖的良方；代餐奶昔公司Soylent接受了“解决”全球饥饿问题的使命，而Facebook则发誓要“解决”全球南方国家的互联互通。事实上，这些公司并没有拯救世界。
十年前，我把这种模式称为“解决主义”（solutionism），但如果称之为“数字新自由主义”也同样合适。这种世界观从营利性解决方案的角度，重新审视社会问题。那些在公共领域备受关注的问题因此被重新视为在市场上有利可图的机会。
“通用人工智能主义”重新点燃了人们对这种“解决主义”的热情。去年，萨姆·奥特曼表示，“通用人工智能可能成为人类生存所必需的一项技术”，因为“我们的问题似乎太大了”，我们“没有更好的工具就无法解决这些问题”。他最近断言，通用人工智能技术将推动人类繁荣发展。
然而，公司需要利润才能生存。指望烧掉投资者数十亿美元、不产出利润的公司做出上述善举是不太常见的。OpenAI已经从微软那里接受了数十亿美元，该公司目前正考虑再筹集1000亿美元来研发通用人工智能技术。该技术研发成本极为高昂，OpenAI公司必须为投资者收回成本（据今年2月的一项评估，该公司旗下ChatGPT每天的运营成本为70万美元）。
因此，在“富足”和“繁荣”到来之前，公司可能会先通过大幅提价使人工智能服务盈利。但到那时，但到那时，又有多少公共机构会将善变的市场误认为是可负担得起的技术，从而对OpenAI昂贵的产品产生依赖包呢？如果你不喜欢你的城市将公共交通外包给一家脆弱的初创公司，你会希望它将福利服务、垃圾处理和公共安全外包给可能更加不稳定的通用人工智能公司吗？
通用人工智能可以减轻棘手问题带给我们的痛苦，但不可能从根源上解决问题。
新自由主义可以利用技术，使社会问题变得可以忍受。我记得，2017年曾有一家科技创新公司，承诺为通勤者改善芝加哥地铁的乘坐体验，为错峰出行的乘客提供奖励。该解决方案的创造者利用技术来影响服务需求方（乘客）的行为，因为他认为让服务供给方采取行动进行结构性升级（如筹集公共交通资金）是十分困难的。这家公司实际上是在帮助芝加哥人民努力适应城市日益恶化的基础设施，而不是为了满足公众需求，真正地解决问题。
这就是先前提到的适应偏见。人们希望通过科技手段，让我们对自身的困境变得麻木不仁。这是新自由主义不遗余力地鼓吹自力更生和抗压能力的结果。
信息很明确：整装待发，增强人力资本，像初创企业一样制定发展路线。而“通用人工智能主义”也与此论调相呼应。比尔·盖茨（Bill Gates）也曾鼓吹，人工智能技术可以“帮助世界各地的人们改善生活”。
“解决方案主义者”的盛宴才刚刚开始：无论是应对下一场大流行、孤独症还是通货膨胀，人工智能技术已经被吹捧为一把万能“锤子”：在它面前，任何真实的或想象中的“钉子”都不在话下。然而，被愚蠢的“解决主义者”浪费的10年，揭示了其技术手段的局限性。
诚然，来自硅谷的许多手机应用程序可以帮助我们监控生活开支、卡路里消耗和锻炼计划，这些科技手段偶尔也会有所帮助。但它们大多忽略了贫穷或肥胖的根本原因。如果不针对那些根本原因去行动，我们仍将不得不适应问题的存在，而不是从根本上解决它。
用科技鼓励我们遵循自己的步行习惯（一种有利于个人适应问题存在的解决方案）和理解为什么我们的城市缺乏公共步行空间（一种有利于集体和制度变革的政治友好型解决方案的前提条件），这两者之间还是有区别的。
但是，和新自由主义一样，“通用人工智能主义”认为公共机构缺乏想象力，而且效率低下。根据萨姆·奥特曼的说法，公共机构应适应通用人工智能的到来，但他最近表示，自己对“公共机构适应新技术的速度感到忧虑”。“我们之所以应该在该技术发展尚未成熟的初期就将其投入应用的部分原因在于，这样人们就可以有更多的时间去适应该技术的存在”。
但是公共机构只有适应一条路可走吗？公共机构就不能在不应用人工智能技术的情况下，制定自己的计划去提高人们的知识水平吗？还是说，公共机构只有“降低”硅谷技术风险这一项用途吗？
通用人工智能降低公民素质，并放大我们不乐见的社会发展趋势。
对新自由主义的一种常见批评是，该意识形态使我们的政治生活变得扁平化，一切都在围绕效率进行重新洗牌。
1960年刊登的《社会成本问题》（The Problem of Social Cost）一文堪称新自由主义的经典作品。该文鼓吹制造污染的工厂及其受害者不应将纠纷诉诸法庭，因为这样做将导致效率低下并妨碍市场活动的正常进行。毕竟，谁会在乎公平正义呢？该文指出，双方其实应该私下就赔偿问题达成和解，然后皆大欢喜，各回各家。
这种对效率的痴迷导致我们在“解决”气候变化问题时，让破坏环境最严重的违法者继续逍遥法外。他们逃避环境监管部门监管的办法是，设计一项制度，在此称为“碳税”——制造污染的公司可以根据自己的碳排放量购买排放额度。
在一味追求效率的文化里，一切事物的价值都由市场衡量，公平正义不复存在，这将不可避免地导致社会道德体系的崩塌。
著名黑色科幻剧《黑镜》剧照，人们生活在依靠电脑打分的社会系统里，根据人工智能判定的“社交分数”进行选择性社会交往。
由此产生的问题随处可见。学者们担心，在新自由主义的影响下，科研和教学已经商品化。医生们抱怨说，医院优先考虑提供更有利可图的服务，比如选择性手术，而不是急救服务。此外，记者们也不希望用流量来衡量自己所撰写稿件的价值。
现在我们可以设想一下，让通用人工智能带着“解决问题”的崇高使命在这些受人尊敬的机构里（大学、医院、新闻机构等）获得广泛使用。这些机构在价值体系里有自己的追求，而这样的追求对通用人工智能系统来说是无法理解的，甚至在年度报告中也不太容易被量化。而通用人工智能系统正是在那些报告中获得训练。
毕竟，哪个老师会吹嘘来上自己文艺复兴历史课的学生屈指可数呢？某位记者会很高兴看到自己关于某个遥远国度腐败问题的报道只有十几次的浏览量吗？效率低下，不产出效益，即便在当前的体制中，这些“异类”也奇迹般地生存了下来。一些公共机构一直在暗中向此类人物提供补贴，因为这些机构优先考虑自己看重的价值，而不是利益驱动的“效率”。
在通用人工智能构建的乌托邦中，情况还会是这样吗？人工智能系统会像一个无情的顾问那样，整顿我们的公共机构吗？通用人工智能系统提供基于数据的“解决方案”，以便最大限度地提高效率。然而这些“解决方案”往往无法把握公共机构的价值观、使命和传统之间复杂的关系，如果你只触及报告中表面的那些数据，你就很难看清这其中复杂的关系。
事实上，从设计角度来讲，类似ChatGPT这样表现卓越的人工智能系统是无法在超越表面数据的更深层面上把握现实的。
因此，早期的人工智能系统依赖于明确的规则，它们需要像牛顿这样的人来将引力理论化（把苹果如何以及为什么会掉下来写入系统），而像通用人工智能这样当下出现的新技术，只能通过数百万次观察苹果掉到地上来学习该如何预测重力对物体的作用。
然而，如果通用人工智能系统看到的都是在为生存苦苦挣扎的、缺乏资金的公共机构，那么它很可能永远无法推断出这些机构真正推崇的价值。若人工智能系统观察的是那些以获得利润为目标的医院，那么祝你好运，希波克拉底誓言对该人工智能系统来说就是没有意义的。
玛格丽特·撒切尔夫人另一句著名的新自由主义言论是，“这个世界上并不存在‘社会’这种东西”。
通用人工智能游说团体无意中也散播了这种悲观论调。对他们来说，值得发展的智能存在于人类个体头脑中，而不存在于社会中。
不过，人类智慧既是基因和天赋的产物，也是政策和制度的产物。在国会图书馆当研究员，比在一个没有书店、甚至连基本的无线网络都没有的地方打好几份工要更容易学到知识。提供更多的奖学金和图书馆资源无疑将有助于提高社会的知识水平，这一点似乎是没有争议的。但对于硅谷的“解决主义者”来说，提高知识水平主要是一个技术问题，因此他们才对通用人工智能的实现感到兴奋。
然而，如果“通用人工智能主义”真的是新自由主义的另一种表现形式，那么我们应该为如下结果做好准备：致力于提高社会知识水平的公共机构将会越来越少。此类机构毕竟是可怕的“社会”残余，对于新自由主义信徒们来说，“社会”就不该存在。人们开发通用人工智能技术的目的本来是提高人类的智力水平，结果却适得其反，人类的智慧反而会趋向萎缩。
2017年《纽约客》（New Yorker）十月刊封面：机器人统治世界
由于受到“解决方案主义”的偏见影响，即便是看似新颖的通用人工智能技术政策也无法令人兴奋起来。以最近提出的“人工智能安全之曼哈顿计划”（Manhattan Project for A.I. Safety）为例，该计划基于一个错误的前提，即除了发展通用人工智能，人类别无选择。
但是，如果我们的政府提出“文化教育之曼哈顿计划”，并为相关机构提供资金，我们提高人类知识水平的努力不是会更加有效吗？如果我们不这样做，现有公共机构所掌握的文化资源很可能会沦为通用人工智能初创公司的训练数据库，这样的局面会让更多的人接受新自由主义者所宣称的“社会并不存在”的谬论。
若机器人不背叛人类或其背叛行为威胁性较弱，那么通用人工智能技术就不会被视为对人类的生存威胁。然而由于通用人工智能的反社会倾向和新自由主义特征，“通用人工智能主义”的崛起意味着，我们不必等待很久，Roombas扫地机器人就会对自己的工作使命提出质疑。
（原文刊载于6月30日《纽约时报》）
本文系观察者网独家稿件，文章内容纯属作者个人观点，不代表平台观点，未经授权，不得转载，否则将追究法律责任。关注观察者网微信guanchacn，每日阅读趣味文章。