人工智能的困局_风闻

目前的计算机还没有实现真正的智能

首先有几个问题。

人工智能成为专门的学科诞生以来，经历了几次起落，在人们的期望和失望中摆动。即便目前在计算机、机器人中取得了许多成就，也还是显得不尽人意。业内很多人都能感觉到目前的人工智能离人类大脑的智能仍有较大差距，高等智能的提出就有这方面的因素。但究竟如何才能让人工智能更进一步走向人脑智能？还有，之前我们对智能的研究缺失了什么以至于计算机实现的智能与人脑的智能之间存在越不过去的坎？

对智能的研究一直都以人类大脑的智能为范本。但大脑及神经系统只是生物演化中形成一种信息系统而已，还有没有其他种类的信息系统可以作为研究对象？如果有，这些信息系统会有哪些异同？

目前人们对于智能的定义有很多种说法，会思考、有意识、理智、智慧、像人那样行动等等，都归属于描述性表述。会不会有一种更简单的，更直观的，触及到本质的定义呢？

下面阐述一下体系论中关于信息系统和智能的观点。

在体系论中，细胞为一级生物体系，动物、植物、真菌为二级生物体系，人类社会为第三级生物体系。其中第一级和第二级是紧致实体，即通常人们所说的细胞（体）、动物（体）、植物（体）；第三级生物体系是离散型生物体系，非紧致实体。一级生物体系细胞作为基本单元组成了二级生物体系，二级生物体系中的人作为基本单元组成了第三级生物体系。

一级生物体系的信息系统以DNA为主，二级生物体系的信息系统为神经系统，其中以大脑为主，第三级生物体系的信息系统为社会信息系统，包含了社会中人的头脑、书籍、计算机、手机、互联网等。至此我们可以看到，在自然演化形成的信息系统中，除了大脑，还有DNA和社会信息系统。社会信息系统中又以人的大脑为核心，因此我们可以先以DNA、大脑-神经系统和计算机这三种典型的信息系统为对象进行研究。

对DNA主导下的细胞和大脑-神经系统主导下的人的行为表现进行观察、分析，DNA和大脑-神经系统不仅仅有感知引起的行为，还会有自发的、主动的行为。比如大脑内突然涌现出的想法、突然萌生的要去哪里做什么的意愿。可见DNA和大脑神经系统有自主能力，能够自发地形成信息活动，产生自主行为，它们都是自主信息系统。

在演化方面，DNA可以由突变产生新的信息概念，推动演化；大脑可以通过思考、灵感形成新的信息概念，实现信息演化。它们都有自主演化能力。DNA中新信息概念产生的速率要小于大脑灵感的产生速率，而且大脑灵感可以有很强方向性，产生之后可以通过思考进行检验、处理，筛选出结果，大脑相比DNA有很强的信息处理能力。因此二级信息系统 大脑-神经系统的演化活性和信息处理能力是高于一级信息系统DNA的演化活性和信息处理能力的，另外通过对比我们也可以发现，第三级信息系统 社会信息系统的演化活性和信息处理能力也高于大脑-神经系统的。总结可知，一、二、三级信息系统都是自主信息系统，都具备自主演化能力，它们的演化活性和信息处理能是逐级提高的。

再看看人类制造出来的信息系统——计算机，目前它只能在编程后按人的指令产生信息活动，或者通过外界的感应形成活动，无法像人和细胞那样自发地形成信息活动。虽然有些机器人拥有自行能力，但还是基于感知-行动或者人的指令产生的，它的信息活动仍然不是自发形成。目前的计算机只是实现了半自主信息活动能力，只能算是半自主信息系统。在演化方面，计算机中的新信息概念是由人输入形成的，它的演化是在人的辅助下的演化，和自主演化有本质的区别。

根据对DNA、大脑、计算机的观察和分析，我在体系论中提出了偶发信令、可控信令、信令协调控制机制和信息概念的观点。DNA和大脑都可以形成偶发信令，然后偶发信令在信令控制机制的协调下引发一系列可控信令，形成信息活动，即自主信息活动。计算机本身无法产生偶发信令，只能由外界引发起始信令后，在信令控制机制的协调下产生一系列可控信令，形成信息活动，即半自主信息活动。DNA可以由突变形成新信息概念——新基因，实现自主演化。大脑可以由偶发信令形成新的信息概念，实现自主演化。而计算机还形成不了偶发信令，也没有突变，无法形成自主演化，只能在人的作用下实现升级、演化。

自然界中，正是突发、偶发事件引起的一系列变化推动了事物的发展和演变。信息系统的出现使这些突发、偶发事件及连锁变化更可靠了。在DNA中，有偶发信令、突变来形成自主信息活动，产生新信息概念，推动演化；在大脑中，有偶发信令来形成自主信息活动，产生新信息概念，推动演化；在社会信息系统中，有大脑的偶发信令来形成自主信息活动，产生新信息概念，推动演化。

目前的计算机与人脑的差距就在于无法产生偶发信令，也形成不了新信息概念，所以无法产生自主信息活动，无法实现自主演化。现在计算机实现的智能可以在特定情景中达到很好的预期效果，而在情景改变后就变得极其笨拙了，更不要说适应更为广泛的情景了。然而人就不一样，到了新环境后经过学习思考可以很好地适应新环境。可见，计算机、人工智能若想要达到大脑那样的智能，必须能够产生偶发信令，形成新信息概念，实现自主演化。计算机的普适性应该通过提高其自主演化活性来实现。

通过以上对信息系统的分析，我们提出了新的关于智能的定义，即偶发信令形成新信息概念的能力为智能。这样我们会认识到计算机和DNA都没有智能，只有大脑-神经系统和社会信息系统拥有智能。目前计算机实现的只是功能上的类智能，达到一定程度地智能化，距真正的智能似乎还很遥远。虽然如此，计算机仅是类智能的半自主信息系统，就已经使人类社会产生了跨越式的改变，那么可以预见真正人工智能实现的时候，必定会产生更深远的影响。

进化的动因——突发与偶发​

DNA突变会产生进化。

大脑突发奇想、偶然的灵感会形成创新。

在社会中，偶然事件、意外发现会推动科技的进步，历史上有很多这样的事例。

突发与偶发事件推动了事情的发展，这是自然界普遍存在的现象。信息系统的出现将突发偶发机制化并放大了。

大脑有意识地集中思想在某些方向、领域来寻找灵感和突破，这极大的推动了信息系统的进化效率，相比之下DNA的突变随机多了。

社会中，科学技术崛起被人们重视，建立起各种观测站、实验室等科研机构，这让偶然的科学发现机制化，效率提高了很多。

突发与偶发推动了DNA、大脑-神经系统、社会信息系统的进化，是进化的核心推动因素。

突变从另一个角度来说，是信息系统出现的错误。DNA突变就是复制中出现的错误。同样，大脑产生的新思想中有很多也都是错的，需要进行筛选。这也广泛存在于科学研究中。

经典计算机按照人们的指令运行，很听话，极少犯错。它产生不了突发或者偶发信令，无法实现自主演化，实现不了真正的智能，做不到像大脑那样的普适性。

有新闻介绍，量子计算机在运行中有相当比例的错误率，这里的错误会是实现计算机普适性的关键，但前提我们要找到驾驭它并进行信息筛选的方法。这将是通往人工智能的必由之路。

真正的人工智能必然是个黑箱

DNA能够自主演化是因为突变。

大脑能够生成新的信息概念，形成自主信息活动，是因为偶发信令，如灵感、突发奇想、偶然的念头等。

偶发与突发事件的关键不在于是否能够发生、概率多少，而在于何时发生是未知的，不确定的。这就是其黑箱特质。

从还原角度讲，只要一直往下溯源，总能找到前因后果，但是下层的因何时能产生上层的果是不确定的，比如复杂科学中的涌现。

宠物、小孩经常会有一些新奇的想法，不听话的行为，这就是其偶发信令的体现，这也是人们创新的源泉。大脑是自主的、智能的，但同时它也是个黑箱。

未来，能产生偶发信令，实现自主的人工智能，必然也是如此，要么整体都是黑箱，要么至少部分区域是黑箱，否则哪来的自主和创新。

突发与偶发本身就意味着黑箱。

机器人三定律的矛盾

机器人三定律提出以来，倍受人工智能爱好者的推崇。其背后矛盾的地方，似乎被忽视了。

机器人三定律是软约束，而不是硬约束。这就像法律条文规定，官员不能贪污，但还是会有人贪污。机器人若拥有了智能，其思想行为是自主的，我们无法对其信息系统设置硬性约束， 更大的可能也是设置法律规则和惩治条款，对违反规则的个体加以惩罚。

需要强调的是，当前的计算机还没有实现真正的智能，仅仅是半自主，没有偶发信令，这样的计算机是可以通过代码把程序写死，成为硬约束。未来如果实现了真正的智能，计算机能够产生偶发信令，那么它会有更好的创造力，也会变的不那么听话，就像家中小孩或者小猫小狗那样，既会有奇奇怪怪的想法、行为，也会有不听话的时候。这是大脑的基本特性，人工智能为什么不呢。

另外很重要一点，是否会对人或者机器人带来伤害，本身就是模糊的。是否有伤害，对哪些个体有利，对哪些个体有害往往是不明晰的，更多时候面临的选择是对一些个体有利而另外一些个体是伤害。对于人来说，在于选择，对于机器人也是如此。

未来若出现人机共存的社会，机器人三定律背后更应该是一整套法律制度，软约束根本无法避免机器人伤害人，惩戒制度是必要的。能做到的是降低伤害，而无法做到完全避免伤害。

只是将来，机器人能够伤害人这个事实，人们如何接受会是个问题。

 意识上传的悖论

假如自我意识可以上传到计算机，或者其他载体，那么其产生的意识活动，是属于载体的，还是属于本体的？计算机做出的选择还属于我做出的选择吗？

大型计算机上虚拟人、虚拟社会，其中的虚拟人仍然是没有意识的，计算机仅仅在模拟其行为，做出决定的仍然是计算机，而不是虚拟人。这是计算机的意识，而不是人的意识。

大脑意识活动会伴随着记忆，若从这点讲，意识应该是无法脱离信息系统自身的，远程遥控的意识主体并未改变。

更大的可能，意识上传又是一个永动机那样的幻想吧。

现在我们仍然没有弄清意识的机理。