为什么人工智能投资者应该担心自动驾驶汽车事故 - 彭博社

摄影师：Matthew Porter 为彭博商业周刊在12月中旬，通用汽车公司首席执行官玛丽·巴拉拨打了与分析师的电话会议，并宣布决定“重新调整我们的自动驾驶战略。”该公司正在关闭其无人驾驶汽车的开发——由一家名为Cruise的子公司运营——并将团队并入通用汽车负责其常规车型软件的部门。巴拉表示，这与“加速前进的道路，为客户提供有意义的好处”有关。

被呈现为战略转变的同时也是对失败的深刻承认。多年来，巴拉——就像许多科技和汽车行业的高管一样——描绘了一个奇幻的未来愿景，声称所谓的机器人出租车车队将很快取代普通汽车。根据通用汽车的老板的说法，这项技术已经开发出来；剩下的唯一工作就是扩大规模。“我们在这里。这正在发生，”她在2023年南方西南会议上自豪地说。她经常声称，通用汽车在最近一个季度的收入约为500亿美元，到2030年将从机器人出租车中每年额外获得500亿美元。

通用汽车首席执行官玛丽·巴拉。摄影师：保罗·桑西亚/AP照片这些预测被证明是极其乐观的，依赖于可疑的数据和技术上的权宜之计，使公司的软件看起来比实际更复杂。或许更令人不安的是，在人工智能技术蓬勃发展的背景下，许多大大小小的公司都在考虑用改进版的聊天机器人替代大量人类工人，Cruise并不是唯一一个过度承诺的公司。该公司的失败不仅为其他试图销售机器人出租车的公司提供了一个警示故事，尤其是埃隆·马斯克的特斯拉公司和谷歌的母公司Alphabet Inc.，而且还表明，AI聊天机器人的运营商（以及依赖这些聊天机器人来证明其高估值的公司）所做的狂野承诺应该谨慎对待，甚至是完全怀疑。毕竟，自动驾驶本应是AI的简单部分。

彭博社商业周刊欧洲将难以团结一致应对特朗普的威胁Instagram打造的饮品运动品牌如何通过不糟糕的无酒精啤酒引发无酒精啤酒热潮他建立了俄罗斯最大的科技公司。现在他重新开始——没有普京尽管失败，Cruise几乎是任何公司中最接近运营可行的商业无人驾驶汽车服务的。问题是，它根本没有那么接近。在其巅峰时期，Cruise是一个烧钱的新奇事物，由几百辆汽车和数千名员工管理。这些汽车被限制在高速公路和难以导航的道路上，但它们仍然在市区的消防车和其他紧急车辆中造成了干扰，并在驾驶中出现故障时导致了似乎无法计数的交通延误。在证据相反的情况下，该公司在2023年夏季投放广告，宣传一项研究——当然，这项研究是公司自己进行的——声称其汽车优于普通人驾驶的汽车。

这些广告并没有明确说明Cruise的“无人驾驶”汽车实际上仅部分自动驾驶；它们依赖于大型人类团队在呼叫中心监控车辆，并在必要时告诉它们该做什么。这一事实在行业内并不算秘密：Waymo，Alphabet的无人驾驶汽车子公司，其机器人出租车在洛杉矶、凤凰城和旧金山越来越普遍，也依赖于所谓的远程操作员。但这帮助创造了Cruise的软件比实际更复杂的印象。

然后，在2023年底，一辆Cruise机器人出租车发生了一起事故，一名旧金山行人被另一辆车撞倒，落在了迎面而来的无人驾驶汽车的行驶路径上。Cruise运营的汽车急刹车，但仍然撞上了这名女性。Cruise并没有停下来确认她是否安全——一个体面的司机会这样做——而是继续行驶，拖着她行驶了20英尺。这名女性幸存下来，但因重伤住院。根据彭博新闻的报道，Cruise最终以约1000万美元的金额< a href=“https://www.outputnews.com/2024/bloomberg/news_2024_05_15_740238” target="_blank">和受害者达成和解，并向州和联邦监管机构支付了因隐瞒事故细节而产生的罚款。Cruise暂停了运营（公司当时表示是暂时的），其首席执行官辞职。

自从收购Cruise以来的八年里，通用汽车在运营该部门上耗费了超过100亿美元。“现金支出对于如此低的投资回报来说实在是惊人，”乔治梅森大学机器人中心主任、前国家公路交通安全管理局顾问Missy Cummings说。关于Cruise的传统观点认为，通用汽车的问题是独特的，是运气不佳和公司无能的某种组合。但Cummings表示，那些相信这一点的人误解了公司发生的事情以及其同行似乎正在发生的事情。

像Cruise一样，Waymo在建立一个虽然在技术上令人印象深刻但实际上只是在少数地方以低于正常速度运营的适度车队的过程中花费了巨额资金，并且遇到了不少问题。例如，在12月，一位Waymo客户试图使用该服务前往洛杉矶机场时抱怨自己被困在一辆机器人出租车中，这辆车无缘无故地决定无休止地循环在机场停车场。他拨打了客户支持电话，一名代理让车停了下来。Alphabet并未报告Waymo的损失，但其“其他投资”部门，包括Waymo，自2016年以来已损失约370亿美元。Waymo目前正在测试高速公路驾驶，但尚未向客户提供这些乘车服务；Cummings表示，这是因为他们还不能安全地做到这一点。结果是一个在旧金山受到游客欢迎但仅因谷歌搜索引擎带来的巨额利润而在商业上可行的服务。“他们所取得的成就是巨大的，”Cummings说。“但他们仍然限速在每小时45英里，他们不想谈论这个。”她表示，功能齐全的机器人出租车仍需几十年才能实现。

去年夏天，一辆Waymo无人驾驶汽车在旧金山的Uber总部前。照片：Getty Images未能成功训练计算机达到任何优步司机的能力（在15年内将装载传感器的汽车送上数百万英里的道路）应该让一些同样的公司停下来思考，因为他们试图使用类似的技术来取代人类执行更复杂的任务。驾驶——与撰写新闻故事或为银行提供客户服务等活动不同——相对简单，是一种受明确定义的规则支配的活动，无论你身在何处，这些规则大致相同。

早期的自动驾驶演示，始于2000年代中期，看起来几乎像真的一样。公司高管和风险投资家自信地预测，剩下的只是解决少数所谓的边缘案例，例如教汽车遵循紧急工作人员的指示和应对恶劣天气。自那时以来，投资超过1000亿美元，但边缘案例仍未解决，且无人驾驶汽车没有人能盈利。

回想起来，卡明斯说，早期的自动驾驶先驱将演示误认为几乎完成的产品，她表示聊天机器人供应商也犯了同样的错误。大型语言模型在某些类型的人类输出上接近于逼近，但它们也容易出错。它们“幻觉”事实的倾向，粗略地与无人驾驶汽车中一个持续存在的问题“虚假刹车”相平行，尚未得到解决。即使是最复杂的聊天机器人在大多数工作中出错的频率也使它们不可靠，至少在没有持续监督的情况下。与无人驾驶汽车一样，你需要人类来确保机器人不会在你的新闻故事中编造事实（这是试图部署它们的媒体机构面临的一个大问题），或者阻止它们 说脏话或鼓励自残。

与机器人出租车一样，聊天机器人运行的成本超过了任何人愿意支付的费用，这导致一些人，例如高盛的股票研究负责人吉姆·科维洛，建议人工智能的繁荣实际上是一个投机泡沫。OpenAI的隐含估值接近1600亿美元，是有史以来最富有的初创公司，但它每年亏损数十亿美元。

然后是市场的问题：机器人出租车替代了大多数人觉得乏味的东西。今天的缓慢且有些有限的无人驾驶汽车显然是有用的——至少在它们被大量补贴的价格下——如果你恰好是一个内向的人或游客。但是聊天机器人（想想马克·扎克伯格在他的社交网络中插入的AI角色，以保持人们的滚动）让我们远离生活中实际上，嗯，真实的部分。接下来阅读：扎克伯格再次重写他的言论自由理想