人工智能的聪明程度和价值观问题_风闻

人工智能既然是智能，就既有技术问题，也有价值观问题

设想一下，一个人工智能如何看待看待俄罗斯在乌克兰的战争？如果看待爱国？在一些具体事件上如何判断是“爱国”还是“害国”？

当然，如果仅仅在表面上，创造一个更“爱国”的机器人，不是做不到的。不过如果只是过滤掉一些关键词，或者给定一些已经设定的答案，那么显然这样的“人工智能“的智能水平是比较低的。

人类的知识仍然主要集中在英文，如果你想找更全面更多角度的资讯，或者要了解一种较偏的知识类别，只能去找英文书籍，或者上英文网站，这是一个事实。

中文资讯在全世界网络资讯的百分比只有1.7%，只比尼泊尔，肯尼亚强，这其中大多还是被净化过了的资讯，你懂得。如果这些资讯，成为中文人工智能训练的来源，成为机器学习的素材，很让人担心这样形成的人工智能会不会智商太低，千篇一律，给出的答案都是空话套话的八股文，这样的人工智能会有市场竞争力吗？一个只会鹦鹉学舌式的聊天机器人，人类会觉得其智能吗？

如果我们说一个人聪明，或者知道好歹，那应该是他掌握了更多不同角度不同侧面的资讯，知道了什么是坏，才知道什么是好的。如果不知道什么是坏，如果一个小孩一直生活在温室里， 没有见过风雨，没有理解坏，这个小孩长大后很可能只会是“傻白甜”，会有人认为他很聪明很智能吗？

谷歌技术总监雷·库兹韦尔写了一本书，叫《奇点临近》，在这本书中描述了他所认为的人工智能赶上并超过人类智能的过程是怎样的。

并非很多人所认为的那种“匀质化”的过程：人工智能击败个国际象棋大师，过了十年又击败个围棋大师，再过十年又如何如何。

不会的，库兹韦尔预言，人工智能的发展将遵循指数模式——

刚开始的时候，你觉得它的发展简直是龟速，几十年出个新进展。

后来稍微快了一点，十年前夺得国象桂冠、十年后击败围棋圣手。

再后来又快了不少，前脚刚能处理你的语音、文字，隔了几个月现在能识别图像了。

而最终，人工智能的进步速度，将超越人类的感知能力——某天晚上你临睡前，手机蹦出一条消息，说人工智能在编程水平上已经达到或超过普通程序员了，你不觉是什么大事，没看完消息就沉沉睡去。

但第二天早上醒来，新出现的消息将是——人工智能已经急速进步，取代了人类的大部分工作，而你则成了尤瓦尔·赫拉利在《未来简史》中所预言的那种“无用之人”。

库兹韦尔将这个人工智能将发生“超进化”的时刻，称之为“奇点”。

在奇点之前，人工智能需要依托人类去改进自己、不断完成进化。但“奇点”之后，人工智能可以依靠人工智能本身去完成自我改进，从而产生恐怖的“自激效应”，它的演化速度将超过人类的理解能力——就像数学上的奇点、物理学上的黑洞是我们常人理解不能一样。

似乎人工智能的“奇点”到来，已经用不了那么久了。

也许我们有生之年可以看到

科技的发展不是“匀速”的，同样，它给人类带来的影响，也不是“匀质”的。

提到人工智能超越人类时，我们很容易陷入一种泛人类主义的宏大叙事当中，即空泛的讨论一旦人工智能超越人类，“全人类”会面临什么什么样的影响。

但不“匀质”的科技进步，给人类不同群体带来的影响，很可能也是不“匀质”的。就阶层而言，人工智能奇点的到来，很可能会如赫拉利在《未来简史》中说的那样，拉大而不是缩小阶层之间的差距，让大量人口成为“无用之人”。而就国家而言，率先摘到这个“低垂之果”的国家很可能也会对它的对手产生碾压性的优势。

这种未来其实特别像刘慈欣在《三体》中所讨论过的与外星人接触的问题。作者曾经点明人类与外星人的接触一定是不“匀质”的，率先与外星人接触的国家可能获得相比其他国家无可比拟的“突变型技术优势”。这是小说中红岸基地建立的根本原因——各国在认识到接触带来的影响“不匀质”之后，要争夺优先接触权。

而在现实中，我们其实可以认为，一旦“奇点”来临，人工智能就是生活在地球上的、虚拟世界中的“外星人”。率先“接触”（发明）这种超人工智能的人，将教会它怎样认识这个世界，而它拥有什么样的世界观，很大程度上也许将决定世界格局的未来走向。

举一个最简单也最现实的例子，现在大家都很关注俄乌战争，双方今天又死了多少人，西方给乌克兰的军援，何时到位等等问题。

但假设（只是单纯的假设）人工智能的“奇点”明天来临，那个进化出来的超人工智能，站在美国人理解问题的角度，给乌克兰支一个我们人类智能设想不到的招数或者黑科技。可能这场战争立刻就结束了。

如果人工智能是人类手造的“计算中的上帝”，它将用它超人的智慧来决定我们的生活，那么一个非常重要的问题是——这个“上帝”会先听谁说话？