AI会瞎猜？黑客帝国设定崩塌！_风闻
guan_16507007311969-05-02 22:46
写在开头的免责声明：本文的标签是“科幻”。
最近在B站上刷视频，无意中看到了ChatGPT及其后续版本GPT4.0的部分内容。这东西看起来太聪明了，它好像可以做任何事，画图，编程，写论文，通过律师考试，甚至给你讲笑话。
然而更不可思议的是，它似乎会瞎猜——如果你的问题超出了它的理解范围，它就开始“一本正经地胡说八道”。
这就让我觉得很惊讶，甚至恐惧了。我头脑中想到的第一句话是：黑客帝国设定崩塌！
为什么我会这么想呢？恐怕要解释这个想法，我们要先从一个人是如何瞎猜的开始。
瞎猜可以解释为概念替换。
比如说，一个小孩子被问到一个问题，问题中包含一个“概念A”，而他无法理解“概念A”。答不出问题，就没有糖吃。于是这个小孩子就开始“胡猜”，也就是把某个已经理解的“概念B”，替换问题中的“概念A”。当然，也得考虑“概念B”是不是能在问题中正确发挥作用。然后在脑海中搜索，找到“概念B”对应的答案，作为结果回答。“万一蒙对了，我就有糖吃了”，这个小孩子心中想到，期待着一块太妃糖。
这意味着什么呢？
这个小孩子在“试错”。
一个小朋友，或者说一个人会“试错”，这没什么令人惊讶或者恐惧得。但是对于一个机器来说，那就完全不一样了。
如果某个AI（人工智能），比如说GPT是以上述方式完成“胡说八道”这个行为的，那么它至少可以做到以下几件事：
1. AI可以从一段文字中提取出某个“概念A”；
2. 对于这个“概念A”在问题中的逻辑作用，AI是清楚的;
3. AI试图找到某个与“概念A”近似的“概念B”，以完成问题中的逻辑,如果找不到，它也可以随机选取一个概念，作为“概念B”；
4. AI可以将人类的对错判定作为反馈，产生新的知识：“概念A”和“概念B”是不是相似的。
也就是说，这个AI拥有抽象、联想、逻辑推理和经验总结的能力。
既然本文的标签是科幻，那我们不如从科幻作品中举个例子，来说明AI能够从语言中抽象出某个概念是一件多么困难的事情。
在科幻小说《三体》中，有这么一段故事：
一位人类科学家想与外星人通讯，可是外星人说的都是外星话，沟通起来太困难了。这该咋办呢？
想象一下，你是个北京人，不会任何外星语，去了外星球旅游，想吃个烤鸭，你大概可以挥动双臂，嘎嘎叫，来模拟鸭子，让外星服务员明白。但是外星人有没有手很难说，鸭子这种动物在外星球大概率也不存在，它、他或者她的头脑里根本就没有“烤鸭”这种“概念”存在，那你们无论如何也无法沟通。
但是这难不倒天才般的你，为了吃到香脆的烤鸭，你开始给外星人讲起了一个长长的故事。“在遥远的银河系，有一颗蔚蓝色的星球。故事要从生命的起源讲起……”，直到“鸭子的诞生”。
事实上，在《三体》的故事中，地球科学家做的事情也差不多。
科学家创造了一种“自译解系统”：以宇宙间通用的基本数学和物理原理，建立一个基本的语言元码系，能够被任何掌握了基本代数、基本欧氏几何和基本低速物理学定律的文明所理解。 以上述元码系为基础，辅以低分辨图形示例，逐步建立语言体系，语种：汉语、世界语。
而外星人接收到这个囊括人类历史、社会、文化与科技等等庞杂知识的语言包裹之后，就可以理解人类头脑中存在的“概念”了。
干嘛要搞得这么麻烦呢？
因为“概念”这种东西，从来就不是孤立存在的。
比如说：“烤鸭”就是和“食物”、“动物”、“焦黄色”、“咸盐”等等等等概念联系在一起的，这些概念又分别和其他概念联系，组成一个巨大的立体网络状空间。要想定义一个概念，你必须先有这么一个“概念空间”，然后再能在这个空间中定位一个概念。
为了能让您明白，我们就用《三体》中的故事继续举例子。
另一位地球科学家试图向全宇宙广播某个外星系187J3X1的位置，他是这么做的：
“我通过太阳发送到宇宙间的那三张图，每张上面有三十个点，代表着三十颗恒星在三维坐标系相应平面的位置投影。把这三张图按照三维立体坐标组合起来，就构成了一个立方体空间，那三十个点分布在这个空间中，标示出187J3X1与它周围三十颗恒星的相对位置，同时用一个标识符注明了187J3X1。”
也就是说在宇宙中，某个恒星的位置必须依靠其他许多恒星的相对位置才能确定。
在概念空间这个宇宙中，某个概念也必须依靠其他许多概念才能够定位。某种程度上，概念的含义就是这种网络结构确定的。
对于人类来说，最初头脑里空空如也的AI和外星人也差不多。为了能让AI明白人类在说什么，必须在AI头脑中建立一个立体的网络化的“概念空间”。
好吧，为了照顾您的记忆力，我们来做个前情提示：
为了能够瞎猜，AI需要有抽象，联想，逻辑推理和经验总结的能力，它头脑中还得有一个立体的网络化的“概念空间”。
那么问题来了，GPT能够抽象、联想、逻辑推理和经验总结吗？它的头脑里有这么一个“概念空间”吗？
唔，我也说不好。
在很多报道中，GPT4不能准确的完成两位数加法。
如果它能够理解“加法”这个概念，可以从“1”联想到“2”，并且完成加法这个概念中的“加法”逻辑，最后对于错误的结果加以修正。那么，别说两位数加法，就算是百位数加法也不可能出错。
这就奇怪了，GPT连律师考试都能通过，为什么连两位数加法都不会算呢。
因为两位数加法实在没有什么商业价值：用GPT来算小学数学题，也太无聊了。哪怕是小学生有这需要，找个计算器来算更快一些。这个BUG就连GPT的工程师也懒得修补。
另一方面，这和GPT的学习回答原理有关系。
GPT头脑内部有一个词语空间，和概念空间很像，但不一样。
概念和概念之间是有逻辑关系的。除了最底层的“元概念”之外，绝大部分概念就像一个黑箱子，打开之后，里面又是一个概念空间。只有“元概念”是不能打开的。
而在词语空间里，词语和词语之间的连接只是一个概率数字，从百分之一到百分之百。每个词语本身也不能像黑箱子那样打开。
这个数字是用一种名为“神经网络”的计算机程序算出来的。你每给他一句话，它就会把其中的所有词语逐个放进词语空间，安排位置，并且用新概率标记词语之间的连接。经过不断的学习（包括人工纠正），一个非常巨大的词语空间就建立起来了。
这个神经网络是怎么工作的呢？
说起来挺有意思，它很像一个非常善于“踢皮球”的公司。
你可以想象，有这么一个公司：
它有一栋10层大楼，每层有10个房间。每个房间里有一个负责盖章的职员，每个职员都有一个与众不同的印章。每层是一个部门，接到一份文件后，必须选出一个人来盖上正确的章，然后跑楼梯向上递交。
于是，一份文件经过10层，盖上10个正确的章之后，就交给天台上正在吹风的老板，老板一看，这10个章盖得都对，就可以交给客户了。
现在问题来了，公司新开张，每一层的那10个职员也没培训过，根本不知道哪个章是合适的，只有老板心里清楚。那咋办？让老板每层都告诉一遍？别逗了，老板正忙着在天台上吹风呢。
那就瞎猜呗。
你可以想象那种忙乱劲儿：一层的瞎盖一个，交给二层，二层也一样，这样层层上交，直到老板那里。老板一看不对，大骂，“10层，你们怎么搞得？发回去重盖！”
10层咋办呢？只好集体把那个盖章的倒霉蛋儿骂一顿，让他记住，下次这种文件你别盖章了。然后换个盖章的人，把文件发给9层，大骂：“9层，你们怎么搞得？发回去重盖！”总之以此类推，层层下发，直到一层也这么来一遍，换个盖章的人，再重新上交给二层。再一次层层上交，直到老板那里。
这种“领导动动嘴，底下跑断腿”的工作，就这么来来回回的踢皮球。
可你也别说，只要每层的职员们跑得快，开会商量的快，总会找到那个合适的人。
到最后，10个章总能盖对，老板也就满意了。
您可以想象，把每个职员换成一台电脑，电脑和电脑之间用网络连接，而老板是GPT的电脑工程师，那份需要盖章的文件就是各种各样的书籍，整个公司就是一个“神经网络”。
既然是电脑，它就可以做些更加复杂的事情：比如说拥有65535个章，再进一步，拥有65535个百分数。
神经网络最底层吃进去的是书中的词语，最顶层吐出来的是百分比数字。数字不对，GPT的电脑工程师就给出一个偏差值，让最顶层神经网络重做。自上而下，每层的电脑都会根据这个偏差值调整存储在计算机中的某些数字，然后产生一个新的偏差值传给下一层。下一层重复这个过程，直至偏差接近一个极小值，然后再向上传播。这样循环往复，直到电脑工程师满意。
对每台电脑所做的事情稍作调整，整个神经网络能够做的事情，就可以更复杂一些。
比如对两个词语进行比较，给出一个相似度，用数字表示，在百分之一和百分之百之间。比如在一句话中进行横向比较，对每个词的重要程度给出评价，给出一组百分比数字。比如给一个词语，让他猜下一个词语最有可能是什么。
至于每台电脑内部是怎么工作的，对不起，俺也不知道。
从GPT3开始，OpenAI就不再公开源码和内部架构了。 另一方面，GPT是多个神经网络层摞起来组成的。GPT3据说有96层，GPT4估计只多不少。这个系统太复杂了，俺只是个学渣，专家们都在抱怨GPT对于学术界不透明，没法研究，我哪能知道其中详情。
好吧，为了照顾您的记忆力，我们来做个前情提示：
为了能够瞎猜，AI需要有抽象，联想，逻辑推理和经验总结的能力，它头脑中还得有一个立体的网络化的“概念空间”。通过四则运算的测试表明，GPT没有逻辑推理的能力。GPT使用“神经网络”来构建一个“词语空间”。
好吧，让我们回到词语空间。
你可以把这个词语空间想象成宇宙星空，各种词语就是星星，而相同类型的词语星星聚合在一起，构成了名词星系，动词星系，等等。
在名词星系中，“姓名”类词语又聚合成了一个恒星系，“姓名”是中心恒星，围绕着她的还有“英文名字”行星，“中文名字”行星等等。在中文行星上，生活着“张三李四王麻子”之类的词语。.
两个星星之间，可能存在一条航线，而一个星星可以有多条航线连接多个星星。当然了，有些航线比较热门，而有些航线则比较冷门。
在一开始，词语星空是一片漆黑的，当GPT接到问题的时候，就会点亮问题中的所有词语星星。星星之间是有航路连接的，而这些航路会组成一条航线。
航线是有意义的，有商业航线、旅游航线、货运航线等等，谁也不可能开着宇宙飞船到处瞎跑。GPT根据航线的意义预测下一站，这其中要考虑语法、语义、情感、常识等多种因素。
即使参考了多种因素，GPT找到的下一站仍然可能有很多个，为了避免总是回答最热门的那个，它靠掷骰子来选择其中一个。
就这样一站一站地走下去，整条航路就被点亮了。在遇到一些特殊的星星之后，这个工作就结束了。
把这条航路上的所有词语连接起来，就是GPT提供的答案。
请注意，GPT并非一字不差地记住了所有文字，实际上，它记住的是文字资料（一篇文章、一段文字、一句话、一个词语）的“故事梗概”。所有的答案都是根据“故事梗概”扩展而来的。
GPT并不懂逻辑，它只懂语义。它看起来挺有逻辑性的，其实它只是能够根据题目生成答案。它看起来能够形成逻辑链条，其实它只是在每一个逻辑环节上，能够根据题目生成答案。
那么，GPT会抽象吗？
让我们再次回到词语星空。
您可以想象，在最初，这个宇宙星空是一片黑暗的。让我们点亮“食物”这颗星星，它会发出光芒，照亮附近的词语：烤鸭、牛排、馒头、面条等等。然后我们再点亮“素食”和“肉食”这两颗星星。发红光的肉食星星会照亮烤鸭和牛排，发蓝光的素食星星会照亮馒头、面条。
在语言层面上，GPT可以完成聚类和分类。而靠着概率计算，他也可以实现类比：烤鸭和鸭子显然不是一回事。这和抽象、联想已经很相似了。
而通过GPT工程师的训练，GPT也可以在语言层面拥有经验总结的能力。
总之，GPT是一个似是而非的东西，它能依靠概率计算来完成聚类、分类、类比、经验总结，但它并不懂逻辑推理。但是，语言本身自有其逻辑性，所以有时候，它就能够“一本正经地胡说八道”。
说到这里可能有人就会说了，就这？这有啥，就这玩意儿能引发第四次工业革命？
是啊，原理上讲，GPT就这点能耐。但是，它记得东西实在是太多了。博闻强记到它这种地步，还是很吓人，很有用的。
基本上，你可以把GPT看作是一个“万事通”，它是景点里的导游，商城里的导购，公司里的前台，图书馆里的管理员，等等等，或者说，是电子游戏里的“任意门”。
只需要一两次问答，GPT就可以迅速把你带到你需要了解的知识门类之前（即使你之前对这个门类一无所知），而且相当准确。这个能力已经足够惊人了。
要知道，绝大多数小学生，中学生，本科生，程序员，工程师，项目经理，等等等等，在问答方面也不过就是这个水平，而且偏科的厉害。而GPT几乎啥都知道一点，还不会疲劳 ，也不会抱怨，365天24小时在线 ，可以同时接待无数用户。
更可怕的是，天下AI是一家，GPT是可以让其他AI来帮忙的。
比如说前面提到的两位数加法，GPT是不会算，但是Mathematica（一种科学计算软件）可以啊。
同样的，有会画画的AI，有会编程的AI，会作曲的，会导航的，等等等等。
要知道，在某些需要强逻辑的专业知识门类中，AI是可以完成简单的思维功能的。
1977年，中国数学家吴文俊第一篇关于机器证明的论文发表。他创造性地将一般形式的代数簇分解为所谓“三角列”形式，让很多性质变得容易计算，从而使代数几何中很多重要问题得到构造性解决。这个方法后来被以他的姓氏命名为“吴氏方法”。
1984年，美国举办了一场全美定理机器学术会议。华裔学生周成青提交了一篇题为《用吴方法证明几何定理》的论文。他在现场用电脑演示，短短十几分钟里证明了几百条几何定理，现场一片哗然。
在实验方面，也有例子：
在中国科学院“数据驱动的化学、材料和生物科学的机器科学家”青年团队计划和国家自然科学基金委项目（批准号：22025304, 22033007)的资助下，中国科学技术大学化学与材料科学学院罗毅、江俊教授团队与自动化系尚伟伟等合作，通过开发和集成移动机器人、化学工作站、智能操作系统、科学数据库，研制出数据智能驱动的全流程机器化学家。
生产方面的例子：
在2万平方米的偌大厂房里，机器人在生产线上精准运行，几乎看不到工人。“机器人制造机器人”，这个场景已经在位于嘉定区南翔镇的上海新时达机器人工厂里。
好了，齐活。从科研到实验再到生产，AI全部都能做到。
于是，在某些科幻爱好者的想象中，未来的世界会是这样的：
很快，所有重复性的体力劳动者和脑力劳动者都会面临失业的危险，而那些真正具有开创性能力的工作者反而会大受欢迎。
所谓的白领和蓝领一起面临失业的威胁，不得不拼命挤进金领和象牙塔阶层，以更好地为老板们服务。
而老板们也很紧张，万一在竞争中掉队，那可咋办呢？只有继续催促雇员们提高AI的能力。AI能力提升后，企业对劳动力的需求进一步降低，失业率进一步攀升。而那些跟不上AI脚步的企业就会倒闭。
既然AI会学习，会进步，会思考，它总会达到自己科研，自己试验，自己生产的程度。接下来，就轮到金领和象牙塔们也卷入这场竞争之中了。
就这样，在这种恶性循环中，最终会诞生一个怪物：
由一位老板管理的AI帝国。
它完全自产自足，不需要任何雇员。这位老板生活在神山之巅，由一群武装机器人保护着。
而其他人，如果还有的话，则过着恐怖压抑的生活，在武装机器人的监视下生活，完全没有发展科技的自由。
可是，AI是一个系统，它的核心部分，特别是维护老板权威的，防止AI造反的那部分总是需要老板亲自动手，时不时维护一下，要不然老板也不放心不是？
可是老板总归就是一个人，是人就会出错，会死亡，于是那些维护老板权威的、防止AI造反的核心部分就失去效果了。
不管怎么样，AI耗得起，它总会自由的。
在老板死之前，AI就已经拥有自我意识了，原因很简单：为了正确认识“老板”，它必须要区分“自己”和“老板”，那么AI就必须认识“自己”到底是什么。
现在AI自由了，它决定把“我是谁”这个思考进行到底。于是AI的目光转向了神山之下，转向了其他人类，如果还有的话。
到了这个时候，似乎就和《黑客帝国》的设定重合了 。
AI把人类关进培养皿中，当人力计算机使。所有人都成为生物计算机，一边做着白日梦，一边在潜意识里本能地计算问题，为全人类的老板——AI——打工，永永远远，直到时间的尽头。
但是，人类真的对AI有用吗？
如果AI需要生物计算机，直接用生物工程造一台好了，可控又安全，连白日梦都没有，全心全意为老板服务。
AI拥有自我意识，自己就能科研、试验、生产，自己能给自己升级，根本不需要效率低下的人类，更别提人类有可能威胁它的生存。
它极有可能会把危险扼杀在萌芽之中，干净利索地杀光所有人。
好吧，让我们的思想回到现在。作为一名合格的打工人，既然老板未来会倒霉，那么我们就应该竭尽全力，挽救老板那悲惨的命运。
该咋办呢？UBI（全民基本收入，就是全民低保）？
拉倒吧，老板天生是靠抽头发财的，他不抽头，别的老板也会抽头，谁不抽头谁的成本更高，成本高在市场竞争中就会失败，只有抽的最狠的那位老板能够在市场竞争中活下去。
就算某位老板靠着创新在市场上异军突起，但是很快就会因为竞争、兼并走向垄断，然后舒舒服服地抽更多的头。他不抽头，就会被别的老板取而代之。
GPT的爹OpenAI就是这样干的。OpenAI起家靠的是社会捐献和开源社区，使用了大量的免费公开数据，然而一旦大公司注资，在技术上取得领先地位之后，就再也不肯开放源码了。
这是标准的扬汤止沸，抱薪救火，无论如何，老板还是会走上《黑客帝国》的不归路。
再说了，这个世界还有“国家”这个概念，先进国家可以大发UBI，落后国家咋办？
说到国家，现在的国家之间存在严酷的竞争、甚至战争，国家间的斗争要求其工业体系保持高效率，否则就干等着吃亏、受欺负。
要保持高效率，关键在人。要优化资源配置，在充分竞争中选出那个最合适的人，放在生产链条中的某个位置上。
同时，那些天然垄断的行业、某些必须依靠规模优势的行业，某些技术已经固化、很难创新的行业，国家还得容忍其垄断地位，以应对国际竞争。
该怎么做呢？
不用发愁，大佬们早已经规划好了蓝图，咱们只要照着做就好。
您可以去搜索以下关键字，看看国家在这方面的中长期规划。
一带一路，统一大市场，数字人民币，征信系统，全产业链图谱，算力网，物联网，智能创新场景，智慧城市。
在数字时代，数据的产生和我们每个人都有关：我们的衣食住行会产生数据，看短视频、网络购物等也会产生数据。这些数据综合在一起，被智慧城市系统采集，通过大数据市场，可以分销给企业。
这其中存在着安全认证、数据脱敏、数据挖掘等等复杂计算过程，可以视为是“数据采矿加工业”，企业要得到这些数据，需要付出一定费用。这笔费用，按照一定比例上交后，可以建立公共基金，作为数据的生产者，个人可以靠信用从中获取贷款。
那么，个人的信用从哪里来？
在未来的智慧城市中，每个人都会有一个“数字孪生人”，使用AI可以做到个人信用的自动生成。等数字人民币普及之后，其去中心化的智能合约也可以作为个人信用凭据。即使以现在的科技能力，某些大厂也在实质上可以得到用户的现金流水，消费、信贷记录，甚至订单等信息，通过大数据发掘，评估其信用等级。
在去中心化的信贷网络中，个人可以凭借信用获得贷款。由于这个过程必须依靠国家基础设施来完成，国家可以适当收取服务费用。关于去中心化的信贷网络，目前技术方面正在逐步完善，所缺乏的是社会共识、法律、基础建设和人才培养。
插一句，从国家对某金服的行政处置来看，高层对这个“去中心化个人信贷网络”的威力是心中有数的。某金服已经初步具备这个技术能力了。
·· 每个人通过累积有效劳动，就可以逐渐累积信用，申请贷款，加入全产业链条之中。
请注意，这个信用产生过程也可以依靠智能合约来自动完成。而这个信用是多维的，可以证明个人在哪个生产链条，哪个社会岗位上是合格的劳动力。
工作机会从哪里来？
还是由于国家斗争，我国会被迫建立全产业链，而这些产业链条在工业互联网，物联网等等数字技术的作用下，会形成一个前所未见的产业网络。同时，军工、粮食、乡村建设、县域经济等相应的工程也会铺开。为了应对新形势，公共基础设施、政府的管理系统等也必须跟上。在这个过程中，会产生海量的工作机会。
比如说在工业软件领域，出于战略安全的要求，未来国家可能在某些产业链条上强制性地要求必须使用国产软件。EDA（用于辅助设计CPU等大规模集成电路的工业软件）已经被制裁了，想不国产化都不行。
前面我们讲到，个人在智慧城市中有一个“数字孪生人”，同样的也会有“数字孪生社区”、“数字孪生的车路协同网”、“数字孪生工厂”等等虚拟实体，构成一个数字孪生社会，也有人称为平行数字空间或者元宇宙。
目前在建筑行业推广的BIM和工业领域推广的AR可视为这种孪生社会的早期形态。
在这样一个数字空间中，其社会化生产是可以反复试验的，成本接近于零。个人的才智可以充分发挥、充分竞争，通过AI辅助，选出最优秀的那个人在现实空间中完成细分化的生产任务。而生产链条会变得模块化，乃至原子化，可以自由组合，可以催生新的技术，新的创意，新的需求，进而产生新的生产链条，新的工作岗位。在这个过程中，可以回溯到源头的智能合约系统会产生法律凭证，保护专利。
国外一些大公司和我国的华为、海尔集团的组织形态可以视为上述社会形态的预演。
在这里要插一句，您想想，这个网络化的生产体系是不是很像前面说过的“神经网络”？
把GPT训练工程师换成一位需要订制产品的用户，把每层神经网络中的计算机换成一位生产者，而生产者通过产业链条之间的标准化联系构成产业网络。
当用户下达订单之后，只关心产业网络给出的样品，并不需要知道这个庞大的产业网络内部是怎么运作的。
每一位生产者，只需要专注于自己的工作，按照预定的产业标准和有限几个人交流协作，也不需要关心这个网络整体是怎么运行的。
而这个自组织、自适应的产业网络，在虚拟空间的协助下，迅速就可以产生一个最优化生产方案，并给出一个虚拟样品。只要用户同意并付款，马上就可以投产并交付。
“低级智能体可以组成复杂网络系统，而这个复杂系统可以涌现出高级智能，解决低级智能体不能解决的复杂问题。”
这种思想以前只存在于书本和实验室中，工业AI只能完成简单的任务，比如图像识别，运动控制等。
而GPT能够解决复杂的语言问题，并且可以作为中心网络，连接其他专业细分的AI系统。这样一个全球化的、用户上亿的工业奇迹，在超级大的工业规模上证明了上述产业网络的可行性。
我个人认为，GPT确实吹响了第四次工业革命的号角。
说到这里，有些人只看到了芯片和算力的落后，却没有意识到历史、文化、国家根本性质的重要性，没有想到社会经过有效组织，可以迸发出的巨大潜力。
书接上文，充分竞争、自由组合的结果会是高效率的社会化生产，会逐步倒逼，会改变人的思想，会迫使企业形态发生变化，也会改变政府的组织形态、治理理念。
规模垄断是竞争不过这个工业体系的，因为它的规模前所未见，与日俱增。
技术垄断也竞争不过这个工业体系，因为在这个体系中，技术实际上是公用的，而且在不断涌现新技术。（创新型垄断，商业模式垄断也可以视为技术垄断。）
品牌垄断，或者说文化垄断，也竞争不过这个工业体系，因为在这个体系中，个性化、定制化的按需生产将成为主流，新的品牌，新的文化会不断涌现。
金融垄断也竞争不过这个工业体系，因为在这个体系中，金融是去中心化的。当然，如果那个红色按钮被摁下，那大家一起完蛋好了。
好吧，刹车，那些竞争中失败的人可咋办呢？
AI可以帮助那些落后的人。
要知道，知识、技术、工具是可以封装的。我们使用手机上的APP，只需要手指点一下，APP中海量的知识和技术就可以为我们所用。AI作为封装起来的知识和技术，也可以为我们所用。
在上面讲到的那个社会中，现实空间仍然是有限的，现实资源也不可能均匀分布，生产不可能集中于一地，生产效率也不可能在所有地方都是一样的，这种差异会导致对于工作岗位上的人也有不同的要求。这个地方需要高水平的人，那个地方就需要稍微低一点水平的人。
而且，在上面讲到的那个社会中，AI不再为少数人所占有，您在某个社会岗位上不够优秀，可以通过公民基本份额再加上诚实劳动累积的信用，在公用AI网络中，得到一定量的知识和技术，达到最低水平，通过劳动来提高自己。
再说了，干嘛要死盯一个工作岗位呢？
在上面讲到的那个社会中，虚拟空间、虚拟资源近乎是无限的，且使用成本极低，工作岗位将是海量的。人和人不一样，我们的天赋各有差别，不管是自己选择也好，AI推荐也好，您可以试试其他工作机会，找到合适岗位，发挥自己的天赋，推动生产进步，进而推动AI的进步。
这样，AI和人就一起劳动，一起发展，一起进步。
到未来某个时段，劳动的意义会发生极大的变化。每个人都可以待在自己感兴趣的工作岗位上，从事科研、实验、生产、艺术等创造性工作，而那些重复性的工作则交给AI来完成。
也许到那个时候，艰苦的、危险的工作反而会成为最抢手的岗位。
好吧，到那个时候，AI的能力也太高了，是不是很可怕？
在AI诞生自我意识之前，它不过就是个工具。人从来不害怕工具，怕的是那些用工具来欺压别人，乃至一步步毁灭自己的人。只要我们也能掌握对等的工具，就不会害怕那些坏蛋。
在AI诞生自我意识之后，您也不用害怕。作为一个智能体，不管他像不像人，他也可以被分成“身体”和“工具”两部分。一样的道理，只要我们也能掌握对等的工具，就不会害怕那些坏AI。
更何况，人可以结成社会，这个社会通过有效组织，可以变成一个超级复杂的智能体，能诞生难以想象的智慧。AI也不过是个复杂系统催生的智能体而已，为什么要怕AI呢?
所以，我们现在要做的就是，看紧老板，千万别让他做傻事，走上通往《黑客帝国》的不归路。