徐令予：小心，别掉到汽车自动驾驶的陷阱中

【为防止汽车自动驾驶系统所使用的通信网路受黑客攻击，负责制定汽车国际法规的联合国机构将在今年11月通过汽车自动驾驶安全标准。有报道称，此标准由在自动驾驶技术研发中处于领先地位的日本和德国主导，主要包括阻止黑客攻击及探测到攻击时警告司机并防止失控等措施。不过，除了黑客攻击，汽车自动驾驶就没有别的容易掉进的陷阱了吗？】

最近，特斯拉公司的首席执行官马斯克有点烦，尽管股市大盘牛气冲天，他的公司股票却逆势往下掉。屋漏偏逢连夜雨，特拉斯汽车自动驾驶接连发生事故。先是五月七日，一辆自动驾驶的特拉斯Model-S钻入了运货大卡车的肚子里，车毁人亡。祸不单行，七月一日又一辆特拉斯Model-X在底特律车子翻了个底朝天，当时车子也处于自动驾驶状态，车内两位乘客被送进了附近医院。紧接着七月十一日，一位姓Pang的华人车主，开着他的特斯拉从西雅图去黄石公园，在两车道的乡间普通公路上，车速55码，处于自动驾驶状态的汽车偏离车道撞到了路边的标桩上，幸运的是：车虽毁而人未伤。更多的事故见注解[1]

但是业界对汽车驾驶自动化的热情似乎并未受到这些负面新闻的影响，让公众以为全自动驾驶的汽车已经在街角等着他们了[2]。事实上，汽车自动驾驶路漫漫，不少坑坑洼洼在前头。难题一：十字路口的左转弯（或称大转弯），这是自动驾驶面临的难题之一，自动驾驶造成的第一例惨祸的部分原因即是对方道车子左转造成的。难题二：道路交通指示灯故障，改由交警指挥，自动驾驶汽车又该如何应对？难题三：在雨雪纷飞的恶劣的气候条件下，在强电磁干涉环境中，又如何保证汽车的各种传感器正常工作？

公众对汽车自动驾驶的雾里看花和盲目乐观由来已久，造成这种局面的主要推手就是一些不负责任的媒体，而汽车厂商更是从中推波助澜有意误导消费者，他们故意模糊汽车的自动驾驶、无人驾驶和自助驾驶等不同的概念，让他们的产品看上去神通广大、无其不能，但如果仔细阅读产品用户手册，里面到处是蝇头小字，实则告诉你这也不能那也不行，我估计这就是所谓的市场学理论吧。

为了消除歧义、统一认识，SAE International国际自动机工程师学会 (原译名：美国汽车工程师学会 )对汽车自动驾驶制定了一个标准。下面的这张表格把这个标准展示得一清二楚：该标准把汽车驾驶自动化程度分成六个等级，对应于表格中的六个竖列；又把汽车驾驶分解成四个子任务，对应于表格中横向四排，驾驶自动化等级的演变就反映在对这些子任务的逐步自动化的过程中。

驾驶自动化标准的零级就是我们痛苦的昨天——几乎没有什么自动化，而第五级则是遥不可及的未来——全自动化。其中的第一级就是我们今天的现实，有些自动巡航和避撞感应器等自动化的辅助设备。目前媒体和厂家吆喝的目标就是第二级，但符合这个等级标准的汽车还远未商品化。谈论第三级为时尚早，而步入第四级至少要在十年以后。尽管尼桑公司首席执行官 Chalos Ghosn 踌躇满志地宣布自动驾驶汽车将在2020年上路，我估计他自己也不知在说些什么，据专家估计实现全自动的第五级可能要到2075年，甚至更晚。

软件恶梦

只要想一想你的电脑出现过多少次蓝屏重新启动，毁掉了你辛辛苦苦刚码好的数千字；又有多少次去银行或机关办事，因电脑系统当机被晾在一边干着急，你想死的心都有。但如果同样脆弱的系统软件控制着自动驾驶汽车，那么很可能你真的活不了。目前汽车的致命事故率是330万小时一次，一般事故率是6万4千小时一次。这两个数据为自动驾驶软件的可靠性划定了最基本的标准，而问题是这样最低的要求都使软件工程师十分为难。

人们往往有一个误解，认为空中的客机和军用无人机都能自动驾驶，汽车自动驾驶应该是小菜一碟。事实两者没有多少可比性，空中飞机驾驶的环境比地面要简单得多。首先，飞机之间都是按各自规定航线飞行，相互之间有足够的距离，一旦发生情况，驾驶员有较充足的反应时间，而地面上前后左右各类汽车相距咫尺，失之毫厘就大禍临头。其次，空中环境中面对的要么是经过严格训练的飞行员或者自动驾驶飞机，与地面上良莠不齐的业余驾驶员根本不是一个等量级。汽车自动驾驶面对的情况要复杂混乱得多，软件的逻辑理性设计又如何应付那些醉驾和路霸？最后一点也很重要，飞机上采用的一些高精尖技术（譬如冗余度技术）也不一定适用于汽车，毕竟汽车是大众商品，不能不考虑成本问题。

到目前为止，软件的正确性测试和纠错仍停留在原始化阶段，带着成百上千漏洞的软件不管三七二十一先丢给用户，用户付了钱花了时间帮软件公司寻出一个个问题，然后软件公司修改后推出1.1.X版让大家继续试用，用户小心翼翼下载更新，常常导致系统崩溃N次，软件厂商连一声道歉也没有。这样的汽车自动驾驶软件你也敢用？如果开车在路上，看到前面车子保险杠的车贴：本车使用Beta V0.1.0 自动驾驶软件，这不是大白天撞见了鬼，你又该怎么办？

总之汽车自动驾驶软件的设计和测试一定要另辟新路，最好能找到数学证明那样的方法。记得七十年代末我在上海交大读硕，我的两位同门师兄的选题就是“程序设计自动化验证”，当时的硕士生课题都挺“高大上”的，大多严重脱离实际。也不知该领域的研究近来有否突破。

两难困境—公德与私利

假设自动驾驶汽车正带着你迅驶在单行道上，左边是路障、右边是石墙，突然前方十多米处窜出一群孩子，紧急刹车已经为时太晚，驾驶软件该作何种决策？是救孩子而急打方向盘让汽车撞向石墙，还是尽一切可能保护车上乘客的安全？为此有专业机构对二千多人作了问卷调查，得到的结果是：76%的答者认为牺牲一个乘客换取十个行人的生命更为道德，但81%答者要购买那些不惜一切代价保护乘客安全的自动驾驶汽车。

这样的调查结果看似十分矛盾，但它反映了人们在车外和车内时的不同立场，人们自始至终把自己的生命放在第一位，这都是自私的基因在作祟。现在的问题是汽车厂商的软件设计的决策标准应该如何制定？这可能会成为一个政治问题，必须通过政府制定政策法规来解决。

两难困境—谁是事故的责任人

特斯拉汽车第三次事故发生后，该公司即刻发声，把事故责任推得一干二净：“当路况变得非常不确定，汽车再次发出警告，要求驾驶员把手放在驾驶盘上，但是驾驶员没有这么做，随后汽车就撞到了路边的标桩上。”而车主Pang先生却说：事故发生前，他没有听到危险迫近需要采取措施的警告。他又进一步指出汽车系统使用的是英语，而他使用中国普通话。

但是事后Pang先生还是收到了一张“粗心驾驶”的交通事故罚单。Pang先生可能会感到太憋屈，但是把这张罚单送给特斯拉公司是否合理呢？让我们再分析一个例子，汽车自动驾驶在夜间的乡村公路上，突然前方窜出一头野鹿，汽车急速避让撞到了路边另一轮车上，肇成一起交通事故。这样的事故责任也要推给汽车制造商吗？汽车决策软件做了每个驾驶人应该做的事情，汽车制造商何错之有？再说，汽车制造商一年生产上百万辆自动驾驶汽车，以后出了事故全部让汽车制造商扛着，它有这样的能耐吗？

但是把事故责任按在车主身上可能更不合理，汽车既不是车主开的，也不是车主造的，车主花了钱凭什么还要担责任？换一个角度思考，你付钱上了出租车，出租车在路上撞了车，这跟你又有什么关系呢？这里的差别只是：前者驾驶员是机器人，后者是自然人。

每个出租车驾驶员都是独立的法律责任人，都有自己的保险，今天当机器人做着与自然人一模一样、甚至干着更多更难的工作，我们是否应该考虑让这些机器人也取得自然人的法律地位，让它们也购买保险并负起它们应有的法律责任呢？

事实上，非人化的法律责任者早已有之，有限责任公司就是一个很好的例子。当然智能机器人与自然人和公司又都不一样，把它们也定义为法律责任个体必定会挑战现存的整个法律系统。所以汽车自动驾驶不只是一个技术问题，更大的障碍来自道德论理和社会法律方面的挑战，由此可知，对于汽车自动驾驶的进展真的不能过于乐观。

尽管汽车自动驾驶路漫漫，但前途也并非漆黑一片。在某些特定环境下，汽车自动驾驶会给我们带来一些惊喜：1）在特殊设计的大型多层无人停车场，汽车按特定路线慢速行驶，有序地出入和停靠，至少不会有人员伤亡。由于汽车停靠和启动无人介入，车门无需开启，所以车子可以排列紧密，节省可观的停车空间。2）对市区的道路进行整改，让行人和汽车彻底分流，取消十字路口，大量采用单行车道和限速等多项措施。3）经过改造的一些全封闭高速公路的特定路段。自动驾驶软件里应该有一种条件设置，只有当汽车进入到上述这些适合自动驾驶的环境中，才允许驾驶员双手离开方向盘。从上面分析中可以清楚的认识到，汽车自动驾驶的进展决定于整个交通道路的革新改造，没有整个交通环境的改善和配合，汽车自动驾驶只有死路一条！

也许我们真的应该先有顶层设计，重新思考和规划我们的未来，想一想，怎么才是真正安全、舒适、高效和环保的交通工具？我们真的不能再被汽车石油资本利益集团牵着鼻子走了，而汽车自动驾驶很可能就是这个利益集团的又一个新花招。

历史的经验值得关注，让我们回顾一下我们是怎样一步步掉入汽车文化的陷阱中的。上一世纪初，汽车厂的大量工人下班后坐着厂车和公交车回家，一路上工友们说说笑笑，读读报纸，吃着自做的三明治，还可以一起骂骂工头和资方来出出怨气。厂方为了扩大汽车产量，把公交系统废弃，逼着工人分期付款买车。工人必须自己开车上下班，无形延长了无报酬工作至少一个小时。于是进入这样一个怪圈：为什么要汽车？因为有了车子才能去工作。为什么要工作？因为需要赚钱买车养车，呵呵。紧随其后是城市的郊区化，把人身与汽车更紧密地捆绑在一起。

今日汽车已经成为最大的公害。实际上车祸是第一杀手，远超枪支问题和恐怖案件，汽车也是环境污染的主要原因。发展多层次公共交通系统才是最好的出路，公交系统的自动化也要容易实现得多，花那么多时间和资源在私人汽车的自动驾驶技术上，可能最后还是为汽车石油资本利益集团做嫁衣裳。汽车自动驾驶技术吹得天好地好，可能只是镜中花水中月。

“行路难，行路难，多岐路，今安在？人车争道乱纷纷，自动驾驶路漫漫。”

[1]最近，国内车主也被坑了。名为Qunar_大罗纳尔多的微博用户自曝，自己所驾驶的全新特斯拉Model S轿车在自动驾驶模式下竟然无视路边停靠的一辆故障车加速超车，最终导致车左前方剐蹭，所幸无人员伤亡。有业内人士分析认为，目前的自动驾驶技术还很不完善，远远没有达到应对复杂交通环境的程度，而多起事故的发生也充分证明特斯拉自动驾驶系统存在明显缺陷。车头部位的感应器可能存在探知盲区，导致车辆对一定角度范围内的障碍物无动于衷。自动停车泊位时发生多起擦刮和伤害猫的事故。

[2]特斯拉公司的首席执行官马斯克不思悔改，坚持推进汽车自动驾驶不后退，他引用了这样的名言：“not to let the perfect be the enemy of the better,"（别让完美成为进步和改善的敌人）