人工智能为了实现人类为其设定的目标，可能会伤害或毁灭人类？_风闻

【本文来自《华为战略研究院院长周红：AI能力快速提升，但还面临三个重要挑战》评论区，标题为小编添加】

人工智能为了实现人类为其设定的目标可能会伤害或毁灭人类

美国畅销书作家丹·布朗的小说《本源（Origin）》描述了一个离奇故事：AI助理接到主人的指令，想办法令更多的人关注他的研究成果。AI助理经过周密计算，结论是如果主人宣布研究成果的当天被暗杀，必将产生轰动性效果，会有更多的人注意其研究成果。于是AI助理制定了一个周密的行动计划，并准确无误地将其付诸实施……

与人类思维相比，人工智能僵化而狭隘，没有道德底线，缺少全局观和同理心，为了单纯地实现既定目标而不择手段，甚至毁掉现有的一切，包括创造它们的人类。

之所以出现上述情况，原因是由于人类的符号智能与AI的比特智能产生机制不同。

人类是一个复合型智能实体，不但拥有符号智能，还同时拥有信号智能和基因智能，而且符号智能是建立在信号智能和基因智能之上。在有些情况下，符号智能还受制于信号智能和基因智能，因此，人类在突发情况下，或者做出重大决策时，或者在生死攸关时刻，起决定作用的往往不是符号智能，而是信号智能或基因智能。后两者的决策依据是几百万年，乃至几十亿年的进化积累，这样的决策更具有大局观，更能经得住时间的考验。比如，我们紧急避险的本能快速而有效，此时没有经过符号智能的逻辑思考，而是信号智能在发挥作用；父母在危机情况下拼死保护子女的行为动机不大可能来自符号智能的逻辑推理，更可能源于“自私的基因”。