瞬雨：人工智能词典里不应有“敌人”

近期，人工智能领域迭代迅速，技术取得了一系列突破。

首先是谷歌AI团队DeepMind所研究的 AlphaFold 算法攻克了困扰生物学家半个世纪的蛋白折叠问题。随后，由著名机器人公司波士顿动力研制的机械动力狗开始在切尔诺贝利勘察辐射地区。这两个进展表明，人工智能已经具备了承担复杂科研任务和高风险工作的能力。

更激动人心的一步，是DeepMind正式宣布第四代“阿尔法狗”——MuZero的诞生。第一代“阿尔法狗” 尚需人类的棋谱数据来完成学习过程；第二代只需要告知游戏规则，就能战胜人类旗手和第一代；第三代已经可以精通各种棋类；到了四代，就是最新的MuZero，已经不需要事先教会规则，从一开始就能在与自身的对弈中学习，换句话讲，就是“无师自通”。这是人工智能里程碑式的成果，表明人类已经接近用通用算法来描绘“智能”本身。

同样在2020年末，由潘建伟团队与中科院上海微系统所、国家并行计算机工程技术研究中心合作构建的量子计算原型机“九章”。这是算力领域的重大突破，算法加上算力，人工智能的未来已不可限量。

这些成果对人类来说意味着什么，从乐观的方面看，意味着现有劳动生产率和生产力不仅可以保持当前增长势头并持续提高，建筑、医疗、制造等等传统行业都有望进一步形成指数性增长。这就是互联网科技界常说的“奇点”后时代。即使是很多人担心的生育率风险，也很可能不再制约经济发展和养老质量。在亚当·斯密的时代，人口代表着国力。到了短缺经济时代，生产对资源的依赖重，人口在一定意义上成了负担。伴随着科技进步，创造型经济成为主导，人口作为具备消费能力和潜力的存在又成了红利。而人工智能带来的生产力爆炸，有可能从各方面解决现有的短缺问题，摆脱人口与资源的矛盾关系，可以预见，人类距离产品极大丰富，由人工智能去完成一切生产任务、解决一切物质和技术问题、提供一切服务的日子近了。

乐观还来自于我们对人工智能的认识越发来自于现实而非想象。人工智能没有主体，也没有欲望，归根到底始终还是一台机器。很多以往科幻作品中对这个问题的思考，“机器人会统治人类”的预言，都缺省地设定了主体性，让机器跟人在一段时间的相处之后，突然而自然地产生了情感、目的和主体性。随着对人工智能认识的深入，我们发现，无意识不是意识，主体性也不是相处来的。人类工具的能力超越人类自身，从来都是人类进步所依赖和伴生的必然，人工智能也不例外。人类的生物学局限毋庸置疑，蒸汽机、内燃机、汽车、轮船、飞机对人类自身能力的超越已经是碾压性的。人工智能只是在此基础上的进一步提升而已。

但乐观也必须谨慎。无论是MuZero还是“九章”，人工智能归根到底就是算法加算力。它只有“我能”，而没有“我要”。有人说，MuZero已经超越算法，它是自己寻找的算法。那它怎么寻找算法？方法论还是设计者给出的，说到底还是算法，只不过是更高级的算法。人工智能的第一推动，也就是目的，必须由人给它。即使某一天出现了人工智能杀人，那也是背后的某个人叫它去做的，它只是个工具。

由此我们不难发现，人工智能具备强有力的潜质，有能力成为比原子弹更具杀伤力和威胁的武器。今天在棋盘上给人工智能设定对手，它已经有能力战胜人类，达到无敌境界。那么同理可以设想，当人工智能发展到极致之后，只要给它指定一个“敌人”，它就可能动用一切手段去打败甚至消灭对方。它对工具和手段的利用能力会是无敌的。所以人类接下来面临的问题是，如何不要成为人工智能的敌人。因为人工智能的背后永远是人，换句话说，其实就是如何才能不成为他人的敌人。

“己所不欲，勿施于人”，中国传统文化已经给出了答案：要避免成为他人的敌人，首先自己就不要以他人为敌。只有把“敌人”这个词从人类的词典中抹去，作为工具的人工智能才不会把人类当成敌人。永远不要给人工智能创造一个敌人，因为在它面前，“敌人”与棋盘对面坐着的对手没有任何区别。（作者是技术经济观察家）