一瓶酒“助攻”的地球流浪丨专栏_风闻

一、从看完《流浪地球》说起

大东：小白，新年假期过的怎么样呀？

小白：东哥，一句话给你概括下我觉得假期里蛮好玩的一件事！“道路千万条，安全第一条。行车不规范，亲人两行泪。”

大东：哈哈，《流浪地球》确实是新年电影的一匹黑马啊，是大家热议的焦点。不知小白在看完电影有什么收获呢？

小白：东哥，不瞒您说，电影的后半程，我一直忙着在哭诶。虽然我是个理科生，但里面涉及到的很多物理天文知识我都不太懂，还是出了电影院，广大网友们帮我普及的知识呢。风靡全网的咱们中科院计算所王元卓老师给女儿手绘的讲解图更是帮我解开了好多的谜团。真的是通俗易懂，形象生动。

其中一张手绘讲解图

小白：东哥，电影里除了帅气的小哥哥，我对其中一个角色最感兴趣！而且，对他还充满了疑问呢。

大东：我猜你说的是空间站中的人工智能管家“莫斯”吧。

小白：东哥，懂我。

大东：我不算是人工智能领域的专家，也不敢随意去揣测导演和编剧的科幻设计。从一个还算厉害的观众角度，我可以试着给帮你解答一下关于“莫斯”疑问，不过最重要的还是讨论讨论由“莫斯”引发的在网络安全领域的一些思考。

二、“莫斯”

小白：在最后的危机时刻，莫斯否定了男主人公的设想，认为点燃木星是一个不可能完成的任务，在联合政府有关负责人已经想要配合尝试的时候，还是拒绝配合指令。莫斯是想保护自己或者说他已经拥有了一些自己的思想吗？

电影中的“莫斯”

大东：人工智能和机器人的出现本就带有不确定性。影片中，我们可以看出机器人莫斯的系统中有两条底层命令：第一条是保护地球，第二条是保护空间站。你觉得这两个命令对于莫斯来说哪个更重要？

小白：莫斯选择带着空间站“叛逃”，我觉得“保护空间站”这条命令的级别要比“保护地球”更高，因为空间站备份了整个人类的文明档案，还有足够多的人类受精卵，在地球遇到毁灭性打击的时候，莫斯带着它们逃出生天是最高级别的命令，也是最好的选择。莫斯也可以更好的保护他自己。

大东：说的不错，这也是为什么早先以色列科学家提出相同想法时，机器人通过计算喷射距离判定成功率是零。最后的成功结局是男主牺牲自己和整个空间站才换取得来的。机器人这种技术的不确定性，引起了很多人的警觉，为了保护人类，早在1940年著名科幻作家阿西莫夫提出了最经典的机器人三原则，如果你感兴趣可以去查找看看哦。

小白：没想到东哥在科幻领域还有很深的研究啊。仔细想来，整个影片还是蛮有逻辑性的。

大东：还记得男主是如何让莫斯乖乖听话，拿回人工控制权的吗？

小白：当然记得，一瓶“违规”的加加林呀，破坏了整个莫斯才实现的。东哥，我似乎懂你的意思啦。我们关于剧情的讨论就到这里，开启安全领域的讨论吧。

大东：你个小机灵鬼。

三、由“莫斯”引发的思考

小白：在我看来啊，人工智能是个很好的网络安全工具，但也是一把双刃剑。

大东：抢我台词了。那我就借用一位专家在演讲中的一句话来说吧。当一个新技术用于安全时，会存在两种情况：一种是用新技术支撑安全，当然它可以做攻击，也可以做防御；第二种是一个新技术本身就会带来一个新的安全问题。

机器人

小白：说起人工智能用来帮助安全工作人员做防御，不知道我这样理解是不是对的呢？比如，如果一名工作人员通常在北京工作，突然有一天早上从纽约登录，这是一种反常现象——人工智能可以看出这是一种反常现象。

大东：理解的很对，但其实远远不止这么简单。人工智能可以帮安全很多很多的忙，可以自动评估开源代码的潜在缺陷，可以识别密码的泄露或者误用，分析潜在的安全行为路径等等等等。但同时也是“攻击者”的宝藏。

小白：说起攻击，就有点怕怕了。感觉还可以大大提高攻击的效率呢，不敢想不敢想。

大东：网络犯罪分子利用人工智能中的技术，它可以被用于各种恶意的任务。比如对开放的、易受攻击的端口进行的扫描，或者是电子邮件的自动组合，甚至实现被24小时窃听。再例如，使用鱼叉式网络钓鱼的自动化，利用实时语音合成来模拟攻击和欺诈，或者在规模上进行像包嗅探和漏洞攻击这样的活动。

小白：面对科技真的要双向去看待呀。

大东：我们还有一个角度没有讨论哦，人工智能本身是否存在一些安全问题呢？

小白：（假装听不见）。

大东：人工智能自身存在着一些脆弱性。比如，在拥堵的北京三环路上，自动驾驶的汽车是否能顺利的从正确的出口行驶出来呢？人工智能它一定要保护一个安全距离，但人却是会打心理战的。人工智能甚至可能出现威胁人类的潜在风险。

小白：任何技术都会存在潜在的安全问题，我们不能因为这个就判断这项技术是不是好的，而是要理性的判断，通过一些手段来让技术更好的为我们服务，而不是成为犯罪份子的机会，你说是不是，东哥？

大东：诶嘿，你这是在教育我吗？你别跑。你给我回来！给你留个作业，好好想想我刚才提到的经典的机器人三原则，写个读后感！

【关注中科院之声公众号（ID：zkyzswx）或微博@中科院之声，看科学界的大事儿】