自驾Uber调查揭示交接问题 - 彭博社

这是操作员拉法埃拉·瓦斯奎兹在2018年3月亚利桑那州坦佩市一辆Uber SUV撞上女性前的内部视图。坦佩警察局/AP安全飞行的第一条规则：注意，即使你认为你不需要。根据 1994年国家运输安全委员会的审查，在1978年至1990年间，美国航空公司发生的37起严重事故中，有31起涉及“监控不足”。飞行员、官员和其他机组成员未能交叉检查仪器、确认输入或在发现错误时发声。

在该研究期间，航空业进入了自动化时代，正如玛丽亚·科尼科娃在 2014年为 纽约客 报道的那样。驾驶舱控制曾经需要持续的警惕，现在可以自我维护，只在必要时请求人类干预。这个想法是通过机器的精确性来减少错误的余地，在某些方面确实达到了这个效果。但随着飞机越来越多地自我飞行，飞行员变得更加自满。计算机引入了一个新问题：在灾难发生前的瞬间，人类操作员可以控制自动化机器的危险期望，而在其他时候他们的注意力并不需要。

彭博社城市实验室香港旧机场成为城市房地产痛苦的象征来自过去的响亮警告：与汽车共存古根海姆在沙漠中崛起，阿布扎比变身为外籍人士中心芝加哥以冷静、派对和阳光克服了民主党全国委员会的怀疑者几十年后，一份新的国家运输安全委员会报告指出了同样的“交接问题”——这次是在自动驾驶优步汽车的背景下。

周四，国家运输安全委员会发布了其 初步调查结果，该调查涉及3月18日晚在亚利桑那州坦佩发生的致命自动驾驶优步车辆事故。报告发现，沃尔沃XC-90 SUV的传感器在车辆撞上49岁的艾琳·赫兹伯格之前大约六秒钟检测到了她，当时她正在穿越一条空荡荡的七车道道路。但这辆在自动驾驶模式下行驶的车辆，后面有一名备用操作员，并没有停下。调查人员发现，其出厂配备的自动紧急制动系统已被禁用。报告指出，优步在自动驾驶系统开启时也关闭了自己的紧急制动功能，以“减少不稳定行为的潜在可能性”。视频画面显示，备用司机在汽车撞击前立即低头。在与国家运输安全委员会的采访中，操作员拉法埃拉·瓦斯奎兹表示，她一直在监控“自动驾驶界面”，而不是她的智能手机，正如早期报告所推测的那样。

在没有自动紧急制动系统的情况下，公司期望备份司机能够在瞬间干预以防止碰撞。但在这种情况下，人类操作员只是在碰撞后才刹车。赫兹伯格被杀。

在我对优步自动驾驶汽车测试计划的三月调查中，三名曾担任备份操作员的前员工描述了一个艰苦的工作环境，导致疲惫、无聊和对自动驾驶系统的虚假安全感。在坦佩碰撞之前，优步在坦佩、凤凰城、匹兹堡和旧金山的司机工作8到10小时的班次，驾驶重复的“循环”，几乎没有休息。他们并不是在驾驶——汽车在驾驶，而操作员则被期望保持目光注视道路，双手悬停在方向盘上。公司有严格的禁用手机政策。

“在那待了这么久，很容易对系统产生自满。”在2017年底，随着优步加大测试里程的雄心，自动驾驶开发部门从始终有两个备份操作员在车内的政策转变为只有一个。单独的操作员不应该在不停车的情况下触碰计算机界面，该界面显示汽车的激光雷达视图并允许他们做笔记。但有时很难不这样做，前操作员瑞安·凯利（Ryan Kelley）在2017年至2018年期间在匹兹堡工作时说。“看着它很好，这样你就可以看到汽车是否看到了你看到的东西，以及它是否会停下来，”他通过短信告诉我。

此外，如果没有第二个人保持警觉，也没有他们额外的眼睛在路上，“当你在那里待了很长时间，很容易对系统产生自满，”前Uber备份操作员伊恩·贝内特说，他在2016年至2017年期间也在匹兹堡工作。尤其是当汽车的性能改善时：“当几个月内汽车没有发生任何疯狂的事情时，很难不习惯它并保持100%的警惕。”

在三月，我与贝内特、凯莉和另一位匿名的前备份操作员进行了交谈，他们都同意，如果对这些人类因素给予更多关注，这起致命事件是可以避免的。

杜克大学人类与自主实验室的主任、前美国海军战斗机飞行员米西·卡明斯将她的职业生涯致力于理解这种动态。卡明斯说，NTSB的调查结果指出了车内人机沟通的严重缺乏。

“系统知道需要进行制动操作，但工程师从未决定这是一个司机应该知道的重要信息，”她说。“如果你不愿意分享这些信息，那为什么还要有司机？他们需要更好的认知支持。”

这可以简单到仪表盘上闪烁的一个大红灯，显示 *刹车，*或者更恰当地说，一系列诊断和紧急警报，卡内基梅隆大学自动驾驶汽车研究负责人拉杰·拉杰库马尔说。六秒钟可能足以让汽车停下、转向或减轻碰撞的严重性；从统计上看，行人在25 MPH与43 MPH（汽车行驶速度）下生存的几率显著更高。

更系统地说，Uber和每个开发自动驾驶车辆的公司——Waymo、特斯拉、苹果、通用汽车Cruise、Aurora等——都需要在团队中拥有专门研究人因的人员，以便考虑这些因素，卡明斯说。我的报道和一篇后续调查金融时报揭示了开发自动驾驶技术的公司之间在操作员培训项目上缺乏严谨性和一致性。

根据拉杰库马尔的说法，NTSB的调查结果指出了Uber的自动驾驶项目存在大量问题，从技术缺陷到测试方法的担忧，再到操作员/车辆界面缺乏支持。“是的，操作员没有注意，”他说。“但人类以分心而闻名。”

解决这个问题的一个潜在方案：车内的眼动监测系统——拉杰库马尔说，这种系统今天市场上已经有了——也可以检测到操作员的分心状态并减速。

在周四发布初步调查结果之前，Uber已宣布将停止其在亚利桑那州的自动驾驶车辆测试项目。它已经关闭了在加利福尼亚的运营。但它计划在未来几个月恢复在匹兹堡的测试。关于调查结果可能对测试项目的变化，Uber的一位发言人向CityLab提供了以下声明：

在过去两个月中，我们与国家运输安全委员会（NTSB）密切合作。随着他们的调查继续进行，我们也启动了对我们自动驾驶车辆项目的安全审查。我们还邀请了前NTSB主席克里斯托弗·哈特来为我们的整体安全文化提供建议，我们期待在接下来的几周内分享我们将做出的更多改变。

在商业航空自动化的案例中，联邦政府注意到在1990年代对自动驾驶仪危害的逐渐认识，航空公司因此进行了培训和协议的改变。由于自动化本身以及这些人类因素，安全性大幅改善。

与航空一样，自动驾驶车辆承诺通过减少人为错误来拯救生命——在这种情况下，每年可拯救数万条生命。但随着公司急于将车辆推向市场，关于测试和部署的明确联邦法规仍然缺乏。

在行业内部，一些研究人员表示，对人类安全的关注并没有达到应有的强度。麻省理工学院新英格兰大学交通中心的研究科学家兼副主任布莱恩·雷默表示，他担心自动驾驶汽车制造商必须将其值得称赞的安全目标作为手段和目的。“如果没有对以人为本的工程的投资，过于关注技术开发可能会减缓技术实现其拯救生命潜力的速度，”雷默说。“希望优步在建立强大安全文化方面的失败能成为行业的教训。”