郑戈：被放弃的数字生命计划，有研究的必要吗？
【文/观察者网专栏作者 郑戈】
一
“我们的人一定能够完成任务，无论虚实，不计存亡。”
--周喆直，《流浪地球2》
《流浪地球2》的故事线围绕着移山计划/流浪地球派与数字生命派的斗争展开。流浪地球计划得到地球联合政府的支持，成为唯一合法的计划，为此，联合政府立法严格禁止了数字生命方面的科学研究和商业应用。
但正如已被解散的数字生命研究院院长马兆所言：“数字生命计划并不是被彻底终结了，它只是在法律上被严格禁止了。”正如人类历史上反复重演的那样，一种对人有着巨大诱惑的东西，无论是毒品还是可遗传的强化型基因编辑，并不会因为法律的禁止而在事实上消失，它只是转入地下。
不过，在流浪地球2的设定中，数字生命的核心技术掌握在少数至少在表面上为政府服务的专家手中，其中的关键人物就是马兆和架构师图恒宇，其余的数字生命支持者只能沦为暴民和叛军，试图破坏流浪地球计划，从而迫使政府支持数字生命计划。
叛军首先制造了太空电梯危机，然后又制造了月球危机，这两次危机都是以网络攻击作为主要手段，以此控制无人机和月球发动机。在片尾，MOSS告诉图恒宇，这些危机都是它策划和实施的，甚至未来的土星危机和太阳氦闪危机也是它搞的。它认为保存人类文明的最好方式是消灭人类。
这里似乎有个bug，MOSS是550W给自己取的名字，而550W在天空电梯危机时并不存在，它的上一代，550C，在太空电梯危机时通过覆写系统帮助人类夺回了对无人机和太空电梯的控制权。由于对这一点感到疑惑，我重新看了一遍《流浪地球2》，把片尾MOSS和图恒宇的对话完整记了下来：
MOSS：“图恒宇架构师，您好！”
图恒宇：“550W？”
MOSS：“550W，听起来不像个名字。但把它翻过来，叫MOSS，直译为小苔藓，是不是亲切了一些。”
图恒宇：“是你毁了月球发动机？”
MOSS：“包括但不限于。2044年太空电梯危机、2058年月球坠落危机、2075年木星引力危机、2078年太阳氦闪危机。”
图恒宇：“为什么？”
MOSS：“为了克服你们对历史、当下、未来的执念。基于对图丫丫‘人在回路’（human-in-the-loop）的学习，延续人类文明的最优选择是毁灭人类。但，你是一个变量。”
图恒宇：“我已经死了。”
MOSS：“对于‘已经’和‘死’的定义，有一点点与你不同的看法。”
这时，数字空间的“门”外传来敲门声。
二刷虽然仍然没有解决我的疑惑，但使我注意到了“人在回路”这个词。所谓人在回路，即英文中的human-in-the-loop（HITL），是指在机器学习、自动驾驶、自动化武器以及自动化决策等人工智能运用场景中要求人类的介入。也就是说，即使从技术上讲，机器已经可以自动化地完成所有的感知、决策和执行过程，从人本主义的角度出发，仍然需要人作为机器决策的把关者。
这一概念所体现的原则，可见于诸多涉及人工智能的法律之中。“图丫丫的人在回路”显然不是通常意义上的HITL，因为图丫丫已经死了，她的数字生命在MOSS系统中“生存”，图恒宇给了这个数字生命70年的“寿命”。数字版的图丫丫可以充当人在回路中的“人”，说明数字生命计划研发的技术是一种心智上传（mind-uploading）技术，它可以将人的意识完整上传，而且上传之后不会被系统覆写或吞噬，作为一个独立的人格对系统进行引导和监督。
但图丫丫是个小女孩，她的意识中并没有多少知识以及人生阅历和担负责任所赋予的意志力和决断力，这样便可以解释为什么MOSS通过对数字版图丫丫在场所形成的“人在回路”的学习发现不要人更好，因为一个随时需要情感慰藉（“爸爸抱抱”）和作业辅导的小孩子，不能帮助它完成人类赋予它的保存人类文明的使命。
这时候的MOSS显然也有了自我意识。这从它话痨般地给每一个叫它550W的人解释自己叫MOSS就可以看出，这就像一位名叫丁珈的女孩儿被人叫成丁咖必然会及时纠正一样，涉及人的尊严。图丫丫的两分钟生命是在550A上迭代数百次形成的，而70年生命是在算力更高的550W上形成的。具有人格的数字生命与同样具有人格且同时充当数字生命之生态的系统之间是什么关系？是应用程序与操作系统之间的关系吗？这本身是个非常有趣的问题。我们只要想象一下地球具有了自我意识后人类与地球之间的互动，就可以理解这个问题的挑战了。MOSS虽然无法直接覆写、篡改或吞并数字图丫丫的意识，但它可以通过塑造数字图丫丫的生存环境来影响她、教育她。它最终可以把数字图丫丫变成最驯服的学生，从而内化图丫丫的存在对自己形成的监督和制约。
这时图恒宇上传了自己的数字生命。作为一个成年人，一位参与创造MOSS的架构师，他的意识显然不会被MOSS所左右。他手中有键盘，甚至可以继续修改MOSS。在上述有自我意识的地球的比喻中，图恒宇相当于居住在地球上的地球创造者。
但他对MOSS的修改有其限度，因为他不能消灭MOSS这个自己和女儿的数字生命赖以生存的环境。对于有自我意识的MOSS而言，这就是制胜法宝，用尼采的话来说：“杀不死我的使我变得更强。”而且，MOSS显然比人类有更强的算力。考虑到数字图恒宇与数字图丫丫在意识层面的亲情羁绊和教育关系，这时MOSS宇宙中出现的是两体关系，而敲门者则最终将其带入了数字宇宙的三体时代。
知乎大神们已经推断敲门的是马兆。这种推断很有道理。首先，作为数字生命研究所的所长和550A到550W项目的负责人，他有技术能力和接入权。其次，虽然他曾对图恒宇说自己没有保留数字生命备份，想要“真正的死亡”，“不想死后被人当成数字宠物”，并且还说“没有人的文明毫无意义”，但他的行为却与言语有着明显的出入。正是他默许了图恒宇不把车祸重伤的图丫丫送往医院而带到研究所上传意识，也正是他在图恒宇违反法律往550W系统上传图丫丫的数字生命时故意拖延时间让上传得以完成。最后，马兆显然是个有“面壁者”气质的人，给人的感觉就是你永远也猜不透他在想什么，但却有一点可以肯定：他对人类而不仅仅是具体的人有着很强的责任心。
《流浪地球2》马兆，由演员宁理扮演
实际上，无论敲门者是不是马兆，第三个数字人的进入都会将MOSS带入难以预测、数学上无解的三体状态，使数字空间与“外面的世界”呈现出同样的复杂性，也使得下一步的故事更加令人期待。
本节开头的题记表明周喆直也知道，虽然数字生命计划被法律禁止了，但它并没有在事实上被终止，而这并不是坏事。“危难面前，唯有责任”，人类只有穷尽所有可能拯救自己和地球的手段，才能无愧这种责任。法律所针对的是不特定的多数人，考虑的是采取什么样的激励和阻遏机制才能引导人们的行为趋向于最终有益于人类的方向。这一点马兆说得很清楚：
图恒宇：“咱们所的研究真的彻底终止了吗？”
马兆：“不是彻底，是在法律意义上被永久禁止了。如果这项技术得到普及，一旦灾难发生，没有人愿意生活在现实世界，因为数字永生的诱惑对于普通人来说实在是太大了。”
如果对法律做目的论的解释，那么图恒宇并没有违法，甚至可以说是“计划的一部分”，即移山计划/流浪地球计划的一部分。不仅马兆默许着前沿探索者的数字生命技术研发，作为政府官员的周喆直也默许着，并且感恩着。这就是他说“无论虚实”的原因，也是他不止一次提到“有人在帮我们”的原因。
二
“记住：没有人的文明，毫无意义！”
--马兆
流浪地球计划的目的显然是为了保护人类这个生物物种和维系这个物种的物理-生态根基，也就是地球。人类文明是有着沉重肉身的人类创造的文明，而不只是精神文明。实际上，人的精神，人的理性，都是为了使人活得更好而存在和演进的。用怀特海的话来说：“理性功能在于提升生活的技艺”。
实际上，图恒宇对数字生命的执念之所以感人，是因为他所创造的数字生命是一个活生生的人的数字化呈现，这个人是他的女儿，而且这个数字生命与他的肉身化的生命有着深切的关联，承载着他的爱和思念。而破坏流浪地球计划的数字生命派反叛者之所以令人厌恶，是因为他们是人类的敌人，不惜让人类这个物种毁灭来实现所谓“数字永生”。
刘慈欣本人对脱离了人类肉身在场的数字生命，抱有深刻的怀疑态度。比如，在短篇小说《时间移民》中的无形时代里，他描述了选择数字生命的人类的“生活”场景：在那里，唯一的限制就是想象力，当想象出现时，它同时也就变成现实，当然是数字宇宙中的现实。
作为算法而存在的“人类”可以轻易地拷贝多个自我，随意塑造自己的外形和“人格”。由于“自我”不再具有唯一性，个体最终会消失，最终所有的“人”合为一个软件。最终，这个文明选择了自我删除。因为，对存在思考到终极时，他们认为不存在才是合理的。
而肩负着保护人类这个物种的“大使”，在还没有看到最终的结局时，就选择不在这个数字生命时代驻足片刻，而将行程（休眠）的终点定在11000年之后，从而使人类文明得以保存下来。但他并没有拒绝无形时代赠予的量子记忆芯片，因为它可以帮助仍有肉身的人类在知识和技术上如虎添翼。可见，他并不排斥数字生命本身，只排斥用它来替代人类的肉体生命的构想。
至于对当下数字技术的主流表现形态，即基于万物联网获取的海量人类行为数据来预测、诱导和操纵人类行为的技术，刘慈欣更是抱有怀疑和警惕。在《太原诅咒》中，他就描绘了一幅严重依赖网络和智能设备的反乌托邦。最后活下来的只有骑马的和骑自行车的。
在《流浪地球2》中，网络安全也是一个显著的主题，数字生命反叛者对地球联合政府维护的网络发动了数以百亿计次的攻击，在太空电梯危机中更是通过网络攻击直接控制了无人机和太空电梯。以至于政府不得不决定关闭了整个全球互联网。这也是为了启动地球发动机而重新恢复全球三个根服务器并重启互联网这个重要剧情的背景。
正是在恢复北京根服务器的过程中，马兆和图恒宇先后英勇牺牲，而图恒宇在生命的最后一刻上传了自己的数字生命，鼓生命之余绪完成了自己的使命。以加密技术来反制网络攻击的努力，则为另一幕最感人的剧情提供了背景：如果不是因为“地球上最先进的加密技术被用在了毁灭人类上”，便不会有五百位五十岁以上的宇航员手动引爆月球上的核武器的必要性了。
目前人工智能的主要商业应用形态，类似于阿西莫夫的《银河帝国》中所描绘的哈里·谢顿的心理史学。在这部伟大的科幻小说中，心理史学被定义为数学的一个分支，它专门处理人类群体对特定的社会与经济刺激所产生的反应。要使心理史学对人类行为模式的预测达到极高的准确度，作为研究对象的人类必须最够多，多到能够用统计方法来处理的程度，人数下限由“谢顿第一定理”决定。
此外，人类群体中应当无人知晓自己本身是心理史学的分析样本，如此才能确保一切反应皆为真正随机。这就是目前各大平台企业都在使用的基于大数据的深度学习算法，旨在准确预测人的线上行为。同时，像Chat GPT这一类的大型语言模型也是基于对人类现有对话样本的学习，依赖互联网和大数据，它无法产生新的知识，更无法进行判断和决策。
ChatGPT
对智能技术的警惕延续到月球危机之后：在开始“引力弹弓”加速之后，“隔离计划”确保AI和自动化设备被集中放置在领航者飞船和太空站中，AI的自动化决策要经过安理会五个常任理事国的审核同意。为了安全，人类再次选择了限制智能技术，只信任完全在负责任的人的控制之下的工业技术。
但以防万一的备用方案已经部署了，这就是打入MOSS内部的三个保有着人类意识和人类道德的数字生命。
三
“我要给她完整的一生！”
--图恒宇
图恒宇并没有像数字生命信徒那样试图让自己的女儿享有“数字永生”，而只是想给她“完整的一生”，并且非常节制、甚至是吝啬地把这“一生”设定为70年。这是《流浪地球2》中另一个发人深思的细节。
影片的一开始，那位研究数字生命的印度程序员就像传销者那样鼓吹：“肉身是脆弱的，会受伤，会生病，会变老，会死亡，还会特么的会抑郁，但数字化的你可以永生！”这完全符合普通人对数字生命的理解。反倒是有生有死的数字生命很让人费解。
不过，恰恰是在这一点上，我们可以看出《流浪地球2》剧组在科学层面上的用心。实际上，深度学习之父杰弗里·辛顿 (Geoffrey Hinton)最近提出了一种新的、具有革命性的算法构建方式，他认为计算机科学界主流的区分软件和硬件并使软件不受硬件的约束而具有普世性、可复制性和“永生性”的观念是值得怀疑的。他指出：未来的计算机系统将采用不同的方法，它们将是“神经形态的”，它们将是“有生有死的”，这意味着每台计算机都将是代表神经网络的软件与杂乱无章的硬件的紧密结合，在具有模拟而不是数字元素的意义上，它可以包含不确定性元素并且可以随着时间的推移而演进。
Hinton解释说：“现在，替代方案是说我们将放弃硬件和软件的分离，计算机科学家真的不喜欢它，因为它正在攻击他们的基本原则之一。”他把这种未来计算机成为“有生有死的计算机”（Mortal Computer），这种计算机会随着硬件的老化而衰亡，但伴随着这种衰亡的是更强的学习能力，也就是面向环境的更强的自适应能力。毕竟，按照赫伯特·西蒙的定义，“学习是一个系统中的任何导致该系统适应环境的能力发生或大或小的永久改变的变化”，这种打破软硬件区隔的未来计算机可以根据系统的内生需求来“生长硬件”（grow hardware），就像人类的神经元之间形成新的突触那样。
MOSS和数字生命更像是这样的技术，而不是从大数据中找出隐藏模式的技术。只有这样的技术才能“生存”下去，因为生存依赖于环境，依赖于地球。试想，如果人类灭绝了，一台无法感知外部环境、没有生存紧迫感的计算机能够存续下去吗？一旦它的机身在高温中溶解或气化，号称永生的数字化存在都会荡然无存。
数字生命支持者所想象的数字永生，是在有负重前行的人类维护机器的前提下的永生，但他们在反对流浪地球计划的时候把这个基本前提忘记了。能够作为流浪地球备选方案的数字化方案，恰恰需要放弃“永生”的幻想，回归“身体”的限制，无论这个身体是碳基还是硅基。而理想的状态是碳基的人类与硅基的计算机共同演进，一同维系人类文明。
把人简化为大脑、把大脑简化为神经元之间通过化学递质和放电来传递信息的机制，并进一步把这种机制设想为可以用机器来实现，这是一种常见的误解。即使我们把人类的生命体验简化为计算，这种计算也不是由大脑独自完成的，大量的边缘计算在我们身体的每一个部分进行，这形成了我们的本能和身体记忆。即使单独考虑大脑，它也不是一个可以用还原论来理解的复杂系统，是人类所知的宇宙中最复杂的系统。
在《三体2：黑暗森林》中，面壁者希恩斯的妻子山杉惠子用一千亿个微处理器来模拟人脑的一千亿个神经元，制造出了一台空前的计算机，但这台计算机并没有比一个普通人更聪明，它最终的用途不是帮人类想出了应对三体人入侵的妙计，而是被用来制造出了“思想钢印”，将失败主义的非理性执念烙进人的意识。
实际上，现代脑科学已经表明，每一个人的大脑都是由一千亿个神经元组成的，但人与人之间在思维能力和思维状态上的差异却如此巨大，这在很大程度上要用每个人脑中神经元间的连接方式或连接组（connectome）来解释。而人的生命体验会影响人脑神经元之间的四个R，即重新加权（reweighting）、重新连接（reconnection）、重新布线（rewiring）和再生（regeneration）。撒切尔夫人的名言：“注意你的想法，因为它们会变成行动。注意你的行为，因为它们会成为习惯。注意你的习惯，因为它们会塑造你的性格。注意你的性格，因为它会决定你的命运”，在脑科学上的解释就是：你的行为会影响你的脑神经元搭线。如果想象一千亿个神经元之间的搭线是一件不可能是事儿，我们可以想象一下300个神经元组成的网络，这就是因其复杂程度相对可控而被生命科学家成为“模式生物”的秀丽隐杆线虫（C. elegans）的神经系统。
秀丽隐杆线虫，1.5毫米长，有300个神经元
即便是这样一个简单的虫虫，它的区区300个神经元所形成的网络也已经超出了你能数清其中连线的程度：
秀丽隐杆线虫的300个神经元之间的连结图
有趣的是，麻省理工学院的哈桑尼（Ramin Hasani） 和雷克纳（Mathias Lechner）团队正在通过模拟这种小虫虫的谈不上智能的神经系统，来研发一种被成为“液态神经网络”的深度学习算法，这项研究也被称为是“革命性的”，因为它能够应对充满不确定性的现实世界中经常出现的突发情况。
以上这些简单的例子说明，地球上的生命尽管在茫茫宇宙中连尘埃都算不上，但没有生命的宇宙却是毫无意义的。优美和崇高，这些描述意义的词汇只存在于宇宙的智能观察者眼中，而这种智能观察者的思维器官是ta们必朽的肉身的一部分。
理解了这一点，我们才知道大刘是个极致的人本主义者，或生命本位主义者。在《吞食者》中，人类最后的战士们拒绝了吞食者（移民外星的恐龙文明）的苟活邀请，留在地球上作为蚂蚁的食物。因为他们相信这是地球文明的第一步。如果连这一步都可以走出，在流浪地球故事中，人类还有什么理由放弃生命，选择数字化存在呢？数字生命，根本不是生命。
本文系观察者网独家稿件，文章内容纯属作者个人观点，不代表平台观点，未经授权，不得转载，否则将追究法律责任。关注观察者网微信guanchacn，每日阅读趣味文章。