JDD大会《Life 3.0》作者Max Tegmark谈人工智能

11月20日，由京东集团、京东数字科技联合主办京东JDD-2018京东数字科技全球探索者大会在中国国际展览中心新馆召开，来自科技界、产业界、金融界、学术界、投资界五大圈层的大咖云集现场，共话数字科技。美国麻省理工学院教授、人工智能领域畅销书《Life 3.0》作者Max Tegmark受邀参会，并以“如何用人工智能是我们更强大，而不是被制服”为主题发表演讲。

Max Tegmark 是美国麻省理工学院物理系终身教授，世界人工智能领域的权威专家，也是未来生命研究所创始人，该组织汇集了包括史蒂芬·霍金、埃隆·马斯克、比尔·盖茨、拉里·佩奇在内的8000多名全球顶尖人工智能专家。

谈到人工智能及人类的未来，Max Tegmark在演讲中表示，技术的力量相当强大，在人工智能的未来应用上，需要注意的是，“别让技术制服我们，而是赋能我们”。

以下为Max Tegmark现场演讲全文：

我今天的发言主题，是技术。技术的发展确实给我们带来一些负面的影响，但我们也要看到，技术也有很多是正面的。有一个非常好的比喻，就是把人工智能比作发射火箭，如果你想让人工智能变得非常强大，有一个好的结果，那单有强有力的动力还不够，我们必须要很好地掌握方向，并且了解怎么样去应用它。关于人工智能的发展，我认为至少要思考三个方面的问题。

动力

首先，是发展动力的问题。人工智能是一种智能，而不是一个生物性的东西，本质上就是信息处理。我们以前看到机器人不能走路，但是它们现在甚至可以跳跃了；以前我们还没有自动驾驶汽车，现在已经有了自动飞行火箭；以前人工智能还无法进行人脸识别，现在它们甚至可以生成人脸、模拟人脸；以前人工智能无法在围棋上打败我们，AlphaGo和人类对弈，打败了人类。

也就是说，以前我们对人工智能进行的更多是一些抽象研究，但是现在它已经深入到我们的生活中来。比如说，人工智能在医学上的应用，使得它甚至比人类的医生更好，可以更好诊断各种各样的疾病，从而挽救更多人的生命。对于中国这样一个步入老龄化的国家而言，人工智能在养老陪护方面也许还能发挥更重要的作用。也就是说，人工智能在很多方面都得了很好的应用，所有这些都是人工智能带来的积极变化和进步。

我们已经取得了很多在人工智能方面的积极进步，但是依然面临很多问题。

再举一个例子，如果把海平面代表人工智能，那随着气侯变化、海平面上升，人工智能的能力就会不断增长。但是面对海平面的上升，我们还必须小心谨慎，要考虑这个海平面会上升多少，是否会把所有的陆地都淹没。放在对人工智能发展方面的思考，那就是要考虑人工智能是否会替代人类所有的工作？人工智能到底能够做到什么地步？

很多人说不要害怕，因为人可以打败人工智能，可以做很多工作。也有人认为，人工智能可以比人做的好，而且可以进一步创造更高级的人工智能。所以，未来的人工智能还会更强。也就是说人工智能自己可以自我演进，越来越改进，最终成为超级人工智能。

那超级人工智能到底是科幻小说还是应该严肃认真对待的话题呢？，我有一个同事认为通用人工智能要过几个世纪才能发生，另外一位谷歌公司的朋友则说超级人工智能会来的比想象更早。

所以最终的问题是，超级人工智能来了以后会发生什么？如果机器可以做所有的东西，而且劳动成本更低，那人还有什么用呢？留给人类的也许只剩一个选择，那就是只管造机器就行了。

方向

所以，我们要考虑到人工智能发展的方向，这就是我们火箭发射比喻的第二点。即火箭有了动力之后，必须要考虑到它未来飞行的方向。

我发起的一个组织——生命未来研究所，主要议题就是思考各个国家在人工智能方向该如何发展。我个人是非常喜欢技术的，我对技术是乐观派。但我认为技术发展的前提是，人要和技术同步成长。我们生活中的许多东西，都是基于不好的教训发明出来的。比如说着了火，我们才发明灭火器；出了车祸，然后才发明了红绿灯、安全带等等。从科学进步角度来说，我们还是需要让技术变得强大，但是一定要从技术当中要吸取教训。

比如说发展超级人工智能，我们还是应该积极来考虑。有人说超级人工智能不是什么好东西，但我认为它也并非就一定是害人的东西，只是我们应该做好“安全工程”。所谓“安全工程”，是指我们要做好应对最坏结果的打算。比如我们在发射卫星前，就要考虑到发射卫星的整个过程中可能有什么问题，要不然发射之后人在天空中怎么办。

技术的发展方向是全球所面临的问题，任何国家都无法回避，也无法单独解决这个问题。但我认为中国在这方面可以发挥更多作用，可以为全球引导出一个正确的人工智能发展方向。一方面是中国有技术，另一方面中国有文化。技术层面，目前中国在人工智能方面已经是一个非常领先的国家，中国的领导人也非常重视人工智能的发展，我了解到京东在技术发展方面一直在引领行业。但是同时必须考虑人工智能的安全性问题，这方面，中国是一个拥有古老文明的国度，看待问题目光长远，所以，中国可以帮助全球制定一个全球共同认同的目标。

我所在的生命未来研究所，在2017年1月提出了一个23项人工智能的发展原则——阿西洛马人工智能原则。在我们的发展原则中，我们认为发展人工智能，一方面要坚决避免武器的竞争，因为从技术角度来说，武器一方面可以保护人，另一方面可以伤害人。我们发展人工智能，一定要避免它们对人造成危害。

阿西洛马人工智能原则中另外一个重要原则，就是人工智能的发展应该能给人带来收入增长，改善人的生活品质。目前我们大多数人都认为人工智能可以带动经济大幅增长，增长到什么程度我们不知道，反正是很多人都能从中获益。那人工智能是否也要考虑“安全工程”的问题呢？比如用人工智能进行基础决策时，要确保其决策的可信度。所以这就要求人工智能的发展要考虑到价值同盟，价值同盟是什么意思呢？以超级人工智能为例，我们发明了超级人工智能，一定要让他理解我们的目标，同意我们的目标，维护我们的目标，这样才能确保方向不出错。

目标

那我们的目标到底是什么呢？这就是我刚才举的火箭发射例子里的第三点。火箭有动力了，又有了方向，但是它的目标到底是发射到哪呢？

目前基本没有人谈论人工智能的发展目标。因为所有的人工智能发展目标都是短期的目标、商业性的目标。我们生命未来研究所的阿西洛马人工智能原则最后一个，也是最重要的一项原则，就是超级人工智能必须得有助于人类才应该继续发展。中国国家主席曾经提出要构建人类命运共同体，这个人类命运共同体和我们的原则是高度一致的。因为人工智能的力量如此强大，发展到一定阶段，要么就是让我们共同成功，要么就是让我们共同毁灭。所以我们应该站在更高的高度看待这个问题，首先所有的国家都应该共同发展人工智能，但是一定要有长远的眼光，要考虑风险，否则这很可能是人类历史上犯的最大的一个错误，甚至会带来整个星球上前所未有的灾难，甚至会导致人类的灭绝。为了避免这个最坏的结果，所以需要全球进行合作，一起来解决人工智能“安全工程”的问题，这样可能带来我们美好的未来。

总而言之，对于人工智能的发展，我的态度是非常积极的。只是发展的原则应该是技术别超过我们人类的力量，最终应该让人工智能给我们人类赋能，这样才是正确的发展方向。