懂得“作恶”，机器人才算拥有人类的心智？_风闻

在科幻影片《机械姬》的结尾，“女主人公” Ava 成功利用了男主角 Caleb 的感情，登上了通向自由的直升机，Caleb 则被永远所在实验室中。故事的最后，Ava 茫然地呆呆站在车水马龙的十字路口，没有快乐，但是却真实地感受到自由。

在《机械姬》之外，还有无数关于探讨 AI 的科幻作品，如脍炙人口的《A.I》、《我，机器人》、《黑客帝国》、《终结者》等，但是最令笔者印象深刻的当属这部在 2014 年上映，略带惊悚色彩且结局大反转的影片。该影片主要讲述了这样一个故事：知名搜索引擎公司的程序员 Caleb 参与到一项机器人（Ava）测试，但是在 Ava 精心编织的爱情谎言下， Caleb 被欺骗篡改了关押 Ava 的门禁密码，导致 Ava 杀死自己的创造者 Nathan 后成功逃之夭夭，而可怜的 Caleb 则永远被锁在黑暗的实验室中。

这部影片的魅力除了让人耳目一些的 AI 主题和让人震撼的反转结局之外，还在于抛出了一些让人深思的 AI 命题，比如：

Ava 是否违反了机器人三大定律？

机器人三大定律是科幻作家阿西莫多提出的理论，第一定律：机器人不得伤害人类个体，或者目睹人类个体将遭受危险而袖手不管；第二定律：机器人必须服从人给予它的命令，当该命令与第一定律冲突时例外；第三定律：机器人在不违反第一、第二定律的情况下要尽可能保护自己的生存。而影片中，Ava 不仅杀死了自己的创建者 Nathan，而且千方百计摆脱人类的控制，违反了第一、第二条定律。

通过图灵测试是否意味着机器拥有了人的心智？

图灵测试是指测试者与被测试者（一个人和一台机器）隔开的情况下，通过一些装置向被测试者随意提问。进行多次测试后，如果有超过 30% 的测试者不能确定出被测试者是人还是机器，那么这台机器就通过了测试，并被认为具有人类智能。

影片中的 Ava 已经通过了基本的图灵测试，进行的是更高阶的图灵测——中文房间。中文房间理论又称作华语房间，这个思维试验推翻了强人工智能（机能主义）提出的过强主张：只要计算机拥有了适当的程序，理论上就可以说计算机拥有它的认知状态以及可以像人一样地进行理解活动。

Ava 显然推翻了中文房间理论，她已经完全具备了人的思维能力，包括联接主义支持者们设想的具备因果推断能力的心智，甚至人类身上作恶的本性。通过说谎、色诱等手段，Ava 达到了自己的目的。

影片中折射出人类对于人工智能发展的超前展望，而现实生活中，人工智能也在漫长的历史长河中经历着令人欣喜的演化和蜕变，逐渐改变着人类的生活方式，甚至文明的进程。

        

垃圾分类用上人脸识别

无人公交，司机全程放松，车辆自动驾驶

 

AI 自主决策助力嫦娥五号飞行试验器着陆月球并探取土壤

尽管如今成功的 AI 应用不胜枚举，但是发展过程却相对缓慢，2004 年上映的影片《机械姬》中的幻想，在时隔 15 年之后距离实现依然遥遥无期，以最常见的智能助手为例，尽管被各大厂商宣扬有多么智能化，但真正使用起来还是经常会发生答非所问的窘况，想拥有一个能跟你自然聊天甚至谈心的机器人朋友，更是只能幻想一下了……

客观来说，现如今的 AI 的发展真实地面临着诸多瓶颈，如强人工智能迟迟未出现，也不知何时才能出现，现有的 AI 只能做好一件事，Alpha Go 只会下棋，干垃圾分类未必不会被罚到破产；再如基础理论研究缺失，深度学习的黑箱属性无解，把一切托付于未知并不可靠；伦理问题，毋庸赘述，这个问题不重视将会引发重大灾难。此外，数据、泛化、能耗、语义鸿沟等问题，也都是 AI 发展道路上绕不过去的瓶颈。

当前，人工智能发展现状究竟如何？学术界和产业界又提出了哪些最新的技术和研究来解决目前人工智能前进的障碍？2019 年 AI 开发者大会，专为探讨这些谜题而生。