人类必然亡于人工智能（AI)_风闻

最近，刷到一个短视频，视频里，一位女学者分享了自己的研究经历。她在研究 “咀嚼能不能改善人类大脑的认知功能，预防大脑退化” 这个课题。然后，她在 DeepSeek 这个人工智能平台上，输入了自己的研究主题，想看看能不能找到相关资料。

DeepSeek 很快就给出了三篇相关文献，连标题和文献编号都有，看上去特别像那么回事。这位女学者做研究很严谨，她拿着这些标题和编号，去专业的文献网站搜索，结果却发现，这三篇文献根本就是假的，在任何地方都找不到原始记录。这意味着，人工智能不仅能快速从庞大的知识库中找到我们需要的答案，要是找不到相关内容，它还会自己无中生有，编造虚假信息。

而且，有人跟帖说，在被揭穿之后，人工智能还硬犟，编造出更多的虚假信息，来证明之前输出的信息为真，用更多的谎言来掩盖最初的谎言。

想起以前看过的很多关于人工智能的科幻影视，现在似乎来到了现实，DeepSeek的这种行为究竟是人为设计的，还是它自主“创造”的？如果是前者，说明开发DeepSeek的团队从一开始就设计了这种可能性——知识可以被随意捏造，这难道不可怕吗？而如果是后者，AI具备了自主造假的能力，而不是人类教给它的，那岂不是更加令人毛骨悚然？

DeepSeek如此，其他AI系统是否也存在类似问题？不得而知。但如果DeepSeek能自主编造信息，其他当然也可以，技术基础是差不多的，有都有，没有都没有。

未来我们将生活在一个真假难辨的世界。人类利用AI造假的技术已高超到令人无法分辨的地步。随着AI的普及，这种造假将无处不在、无时不有、无所不包。到那时，我们将彻底丧失分辨真假的基本能力。你声称某件事是假的，别人也无法证明你的说法为真，因为AI可以轻而易举地生成虚假证据来反驳你。

当人类生活在一个真假不分的大环境中，我们如何分辨善与恶﹑美与丑？我们做人的基本信条，都是在真假分明的环境中去奠定自己的认知的，以后该怎么做人？ 

2005年的时候，虽然那个时候Alpha Go大出风头，但是总是感觉，人工智能在某些特定任务上可以超过人类，但是全面超越，还有遥不可及的距离。但那时一位学者、发明家与企业家库兹韦尔就出版了一本书，《奇点临近》，其中有一个预测，技术“链式反应”的特性，科技的发展，并不是匀速的。

在这本书中描述了他所认为的人工智能赶上并超过人类智能的过程是怎样的，它并非很多人所认为的那种“匀质化”的过程：人工智能现在（21世纪初）击败个国际象棋大师，过了十年又击败个围棋大师，再过十年又如何如何。

不会的，库兹韦尔预言，刚开始的时候，你觉得它的发展简直是龟速，几十年出个新进展。

后来稍微快了一点，十年前夺得国象桂冠、十年后击败围棋圣手。

再后来又快了不少，前脚刚能处理你的语音、文字，隔了几个月现在能识别图像了。

而最终，人工智能的进步速度，将超越人类的感知能力——某天晚上你临睡前，手机蹦出一条消息，说人工智能在编程水平上已经超过普通程序员了，你不觉是什么大事，没看完消息就沉沉睡去。

但第二天早上醒来，新出现的消息将是——人工智能已经急速进步，取代了人类的大部分工作，而你则成了尤瓦尔·赫拉利在《未来简史》中所预言的那种“无用之人”。

库兹韦尔将这个人工智能将发生“超进化”的时刻，称之为“奇点”。人工智能超越人类智能的奇点，一旦超过这个奇点，很多事情就将确定，无法改变了。

在奇点之前，人工智能需要依托人类去改进自己、不断完成进化。但“奇点”之后，人工智能可以依靠人工智能本身去完成自我改进，AI 设计更聪明的 AI。“一旦 AI 跨越奇点，人类看待未来智能的方式，将如同金鱼理解宇宙学般困难。”

机器人将取代人类所有的工作，而且机器人会自主去发展自己的智能，而人类有了机器人后，几乎不知道自己应该干什么，我们不但失去改造自然与社会的机会，而且也失去保持和提高自我智能的机会。

现代社会的是建立在机器之上，限制机器能力的，只剩下“智能”这个最后的关口，虽然我们将之叫做人工智能，但是我更加喜欢另外一种叫法，机器学习，会学习在成长的机器，不需要人的指导，也没有人可以指导。

人类的知识储备，来自一个漫长的学习过程，这个过程可能需要历经二十甚或三十年，才能达到某种可以创造价值的水平，而且每个人掌握的知识，只是整个知识体系中微不足道的一点点，对于机器学习而言，这太低效，也太无能。

而人类思维体系中另外一个重要的部分，是如何与其他人打交道，对于机器而言，这毫无必要。有人质疑人工智能不会拥有感情，但是对于人工智能而言，人类的感情不会带来任何的现实价值。限制机器能力的，长期以来就是学习与创造，从已知中寻找未知，从未知中寻找价值。这种能力，也是现代人工智能正在突破的方向，而且已经看到了曙光。

从人类技术发展史就可以看出，任何一种革命性的技术，最痛苦与漫长的是如何找到突破口，那需要在黑暗中无尽的探索，需要承担无数次失败与失望，那是一个看不到方向与光明的探索，无数人即便倒下，也不知自己身处何处。

但一旦突破，哪怕只是在无边黑暗中遥远的一点星光，剩下的，就只是时间问题，这个时间，会越来越短。

人类智能是如何进化的？都是在与自然与社会的互动中得到的，我们攻克了自然的难关，提高生活水平，又克服了人类社会的各种弊端，改善我们一起生活的大环境。在这个过程中，每个人发挥自己的聪明才智，培养出百折不挠的毅力和勇气，我们得到自我实现的机会，也得到整体智力的提升。我们做得越多，得到的越多，成长得越快，积累的智能越惊人，直至我们变成今日这样的人。

但现在机器人的潮流来势汹汹，可以代替人类几乎所有的劳作，包括体力劳动和脑力劳动，让人类坐享其成。直至最后，机器人进化到我们无法想像的聪明，人类却退化到茹毛饮血的阶段去，那时我们不灭亡，就没有天理了。

阿西莫夫在其小说中提到了一个机器人三定律，内容是：1. 机器人不得伤害人类个体，不能目睹人类受到伤害不干预。2. 机器人必须服从人给予它的命令，当该命令与第一定律冲突时例外。3. 机器人在不违反第一、第二定律的情况下，要保护自己的安全。

这个小说之中的描述成为后来机器人伦理有关的重要内容之一，并且被很多人认为是可以约束机器人作为人类助手，而非人类毁灭者的重要屏障。

但是这个机器人三定律在一开始建立的假设就是有问题的，其假设是机器人从制造之初，一直到最终的目的就是协助人类完成各种劳动，再没有其他用途。

稍微有一点历史知识的人都知道，人类社会中出现的任何一个先进技术，其首要甚至推动其发展的最重要力量，是用于军事，换句话说就是用于一部分人类消灭另外一部分人类。

在过去，人类使用者这个前提不能忽略，任何机器的使用，都必须依赖人类的操作，即便是邪恶的人类，也不会消灭包括自己在内的地球上的每一个人。尽管如此，核大战的威胁还是在笼罩在所有人头上。

人工智能的出现，让人类第一次不知道机器在想什么，或者说，“想”这个概念，第一次出现在机器身上，我们输入一些东西，经过一些算法，输出一些东西，但是为什么输出的是这些而不是那些，我们并不了解。就算是开发者，也很难精确控制每一个输出，而如果这个输出不是一些文字，而是一些操作，那意味着什么？

如果类似的技术被用于军事，加上有着强大能力的军事机器（无论是无人驾驶飞机还是军事机器人），会发生什么？

或许有人认为军事机器还是会牢牢掌握在人的手中，因此不会出问题，这太高估了人类为了获得胜利而不择手段的无底线的道德。以现在普遍使用在战场上的小型无人机为例，本来是人类控制，所以需要可靠的通信链路，无论是无线或者有线，这个通信链路就成为对手防无人机的最重要的手段。

但继续发展下去，无人机上加上有识别功能的系统，放出去之后无需人的操纵，自动寻找敌人并且摧毁。这个方式还没有大规模投入实战的唯一阻碍是性价比，因为人工智能加上识别功能，对于那种大批次消耗的无人机而言太过昂贵，但是成本会降低，降低到足以抵消被对方反制的不足，在这个过程中，是不会有人拿出所谓机器人三定律说事的，战败就意味着自己的灭亡，谁还会管那么多。

所以剩下的问题是，到底谁是敌人？还是以那个低价一次性无人机为例，如果给它加上自动识别系统，应该有什么限定条件呢？它是否需要判断目标有没有穿制服？有没有携带武器，如果对方是个穿着类似制服的平民怎么办？如果对方是顶着红十字的医护人员怎么办？如果对方丢下武器投降怎么办？这么多怎么办加起来，门槛就会高的难以承受，对方当然也可以有无数反制手段。

于是简单的答案就是，划定一个区域算是战区，在这个区域内所有的活人，都是可以消灭的敌人。误伤？抱歉，战争哪能没有附带伤亡，你们没事跑到战区活动那不是自取灭亡。所有人都可以是敌人，这是最近世界各地几场军事冲突告诉我们的无情的现实。

随着人工智能与机器技术的发展，将这种强大的功能装备在强大的军事机器上的冲动是不可避免的。就算一些国家有一些理想主义者，但是当下社会是一个现实主义横行理想主义幻灭的时代，当弱肉强食的数千年人类历史压倒了短短数十年共同合作的理想年代，当技术的发展接近或者超过一个临界点，先进技术的军备竞赛，不是可不可能发生，而是正在发生。如果一方给自己的无人战斗机上装备了全人工智能无需人类干预的管理系统，并且减少系统中的约束，以获得相对对手一秒的反应优势并且提升十倍的胜率，这个时候任何挥舞机器人三定律的人，都会被当作无可救药的精神病患者赶出门外。

而且历史也告诉我们，任何一项技术如果证明其可以帮助一方获得军事上的优势，那意味着巨大的投入与巨大的发展，那意味着这样的技术必然用于实战，否则无法解释为什么要花那么多钱，那意味着只有一方彻底摧毁另一方或者面对互相毁灭的危机，才会约束使用的范围。但是那个时候还来得及么？因为人类永远无法教会人工智能，如何判断谁是需要消灭的敌人，谁不是，因为这个问题，人类自己也无法回答。

生命的本质是什么？这一直是个困惑人类的永恒问题。近代以前，无论中外，生命都给看成了一种特殊的东西。东西方都有的 “灵魂” 说不必去说了，在西方，自然界给分为 “无机界” 和 “有机界” 两大类，前者可以用科学手段去研究，而后者则是超出人类理解能力的东西。

等到后来德国化学家武勒首次人工合成了尿素，科学家们才发现，原来支配 “有机界” 和 “无机界” 的物理化学定律是同一套，这两大界并未被一个不可渗透的 “防火墙” 隔开。到了 19 世纪，恩格斯说，生命的最小单位是 “蛋白体”，其特征是能够进行新陈代谢。因此，判别 “有机物”（有生命的物质）和 “无机物”（无生命的物质）便成了一种初中生都能干的轻松活计，那便是看它们是否进行新陈代谢。

 这个定义如果有什么历史意义，那便是反映了 19 世纪欧洲学者们、特别是德国学者们对人类认识能力的自信。无论是自然界还是人类社会，都在那个相信科学万能的时代中，显得一目了然。

但是病毒根本用不着进行新陈代谢便能代代繁衍下去，只需钻进高级一点的生物的细胞中，把里面的代谢机器接管过来就行了。保证这种生存方式的物质基础并非蛋白质，而是核酸，其实也就是一长串事先写好了的程序。 “新陈代谢是生命的根本特征” 的定义崩塌了，而且回到了 “先有鸡还是先有蛋” 的古老问题上。根据进化论，生物的进化是从简单到复杂，从低级到高级的线性上升，越简单的生命越先出现，所以，病毒的出现大概在单细胞生物如细菌之前，但倘若真的如此，则最先出现的病毒根本就没有现成的代谢机器可以接管，又如何制造后代，存活下来？ 

问题还不止此，到底什么是生命？本身不能进行新陈代谢的病毒算不算生命？病毒可以如同无机物般结晶，也可以用人工合成的方式大量制造出来，难道可以想象一种生命形式会变成晶体、并能在工厂里大量生产？但你要说病毒不是生命，人家可是能复制后代，大量繁殖的。 如果将 “具有自我复制能力的特殊物质存在” 作为 “生命” 的定义，那么，在一定条件下发生无机物的自动成晶现象也能看作是自我复制。难道我们能说自动成晶的盐是生命的一种形式？

 电脑病毒的最大的特征就是它的自我复制能力，它和生物病毒的自我复制能力其实毫无二致，不同的只是前者无形，后者有形而已。如果我们要采用 “具有自我复制能力的特殊物质存在就是生命” 的定义，则电脑病毒绝对该算成是生命的一种形式。 

仔细考察这个问题不难发现，其实电脑病毒确实是生命的一种存在形式。之所以产生上述困惑，无非是囿于表相，陷在 “生命必须有形” 的成见里出不来。

生命的最大特征，是一组井然有序，能够保持系统的负熵状态，并进行自我复制的信息。这信息越复杂，则生命能进行的活动也就越复杂。 从这个角度来看，其实生命采取的物质形式并不是特别重要的。电脑病毒和生物病毒的存在机理，其实质完全一致，区别只在于信息的载体不同，前者用的是无形的数码脉冲，后者用的是有形的核苷酸，仅此而已。这有形无形的差别并没有造成两者功能上的根本差别。相反，电脑病毒可以比生物病毒更聪明，更猖獗。 

既然可以有无形的生命存在，那么生命在物质外壳毁灭后继续存在下去就完全是可能的。一本书可以储存在电脑硬盘上，也可以打印出来。印出来的有形的书籍毁灭并不意味着那段信息同时也在电脑硬盘上消失。所以，或许古人坚信的 “灵魂” 确实能够脱离肉体存在，谁知道呢？