新能源汽车法规｜自动驾驶汽车如何应对“电车难题”【走出去智库】_风闻

走出去智库（CGGT）观察

由走出去智库（CGGT）提供学术资源支持的《深圳法治评论》2025年第二期《专论》栏目聚焦“创新自动驾驶汽车管理制度体系”，约请法律专家建言献策。

西南政法大学民商法学院郑志峰教授的文章《自动驾驶汽车如何应对“电车难题”》，阐述了自动驾驶汽车如何应对“电车难题”，分析了“机器人三法则”在自动驾驶汽车运行管理中具有局限性后， 提出了应当为自动驾驶汽车设置“机器人碰撞三法则”，并肯定了深圳自动驾驶汽车前沿立法探索破解“电车难题”的做法。

《深圳法治评论》由中共深圳市委全面依法治市委员会办公室、深圳市司法局主办，定位于高端领导决策读物，聚焦深圳法治建设，刊发高水平、可实操的应用性政策研究，辅助市领导及本市党政机关领导干部法治建设方面决策，为支持深圳建设中国特色社会主义法治先行示范城市建言献策。《深圳法治评论》在2020-2024年连续五年荣膺深圳内刊传媒奖之“优秀城市内刊奖”。自2020年创刊起，走出去智库（CGGT）即为该高端决策读物提供学术资源支持。

今天，走出去智库（CGGT）微信公众号刊发西南政法大学民商法学院郑志峰教授的文章《自动驾驶汽车如何应对“电车难题”》，供关注自动驾驶汽车法规的读者参考。

要点

1、********“电车难题”对自动驾驶技术具有重要的规范价值，直接关系到产品准入、责任分配等法律制度设计，绝非空洞的智力游戏，而是关乎人机法律秩序是否以人为本的根本问题。

2、机器人三法则完全以人类利益为中心，并不必然体现真正的“善”。第二法则要求机器人无条件服从人类命令，只要不违反第一法则。这将赋予每个人类对机器人极大的支配权，即便出于无理甚至恶意的目的，人类仍可命令机器人伤害自己或自毁。

3、********《深圳经济特区智能网联汽车管理条例》高度重视安全管理，明确实行产品准入制度，从源头减少“电车难题”的发生。****

正文

文/****郑志峰

西南政法大学民商法学院教授、博士生导师，科技法学研究院副院长

想象一下，在未来某个遥远的时刻，您的自动驾驶汽车遇到一个可怕的两难选择：它必须向左转，撞向一个八岁的小女孩，或者向右转，撞向一位八十岁的祖母。根据汽车的速度，无论选择哪一方，受害者都将丧生。这是“电车难题”在自动驾驶时代新版本的体现。既然自动驾驶汽车将取代人类驾驶员，就必须遵循人类的伦理准则。然而，让机器具备伦理判断能力极具挑战性。历史上，阿西莫夫提出“机器人三定律”，试图规范机器人行为，但其在两难困境中的效用仍存争议。如何应对伦理困境，不仅是技术问题，更可能影响自动驾驶汽车的准入标准与责任认定，值得深思。

“电车难题”的法律意义

“电车难题”自提出以来争议不断，至今仍无定论。在此背景下，探讨其对自动驾驶汽车是否具有现实意义？笔者认为，“电车难题”对自动驾驶技术具有重要的规范价值，直接关系到产品准入、责任分配等法律制度设计，绝非空洞的智力游戏，而是关乎人机法律秩序是否以人为本的根本问题。

自动驾驶汽车面临“电车难题”的可能性客观存在****

首先，作为新兴技术，其安全性只能是相对的，即便系统完善，也无法完全避免碰撞事故。其次，自动驾驶技术尚处于发展阶段，在可预见的很长一段时间内仍将与传统车辆并存，“电车难题”短期内无法回避。最后，“电车难题”的成因多样，既可能源于自动驾驶汽车本身的刹车故障或系统缺陷，也可能由其他交通参与者的违规行为引发，或因恶劣天气与复杂路况等意外因素导致。因此，仅凭技术进步尚不足以彻底避免“电车难题”的发生。

“电车难题”也会影响着自动驾驶汽车相关法律制度的设计

当面临“电车难题”时，自动驾驶汽车不可避免地会对一方造成损害，从而引发生产者、使用者、保险公司之间的责任分担问题。而生产者是否设计出合理应对该问题的算法系统，还将直接影响产品的市场准入。

在域外，德国早在 2017 年发布了《自动和网联车辆交通伦理准则》，2021 年通过的《自动驾驶法案》，第 1e 条第 2 款第 2 项要求自动驾驶系统在不可避免的事故中权衡法益，优先保护人的生命，并不得依据个体特征设定差别权重，直面“电车难题”。在国内，2022 年制定的《上海市浦东新区促进无驾驶人智能网联汽车创新应用规定》第 32 条规定，若自动驾驶汽车违反伦理要求或存在重大风险，应终止其应用。2023年工信部等四部委制定的《关于开展智能网联汽车准入和上路通行试点工作的通知》明确指出，系统应避免对驾乘人员和其他交通参与者造成不合理风险，事故不可避免时应采取合理控制策略。2024 年 AI 善治学术小组提出的《人工智能法（学者建议稿）》亦在第 75 条第 2 款中要求，不得对交通参与者进行不合理差别对待。因此，讨论“电车难题”具有现实意义，会影响自动驾驶汽车乃至人工智能的法律设计。

“机器人三法则”的局限

阿西莫夫被读者誉为“神一样的人”，其在1942 年短篇小说《环舞》中提出了著名的“机器人三法则”。

“机器人三法则”的内容

一是不得伤害人类或坐视人类受伤（不伤害法则）；

二是须服从人类命令，除非与第一法则冲突（服从法则）；

三是在不违反前两法则下保护自己（保护法则）。

1986 年，他在长篇小说《机器人与帝国》中又提出“零号法则”：机器人不得伤害人类，或因不作为致其受害。只不过零号法则提出较晚，不如机器人三法则名气大，在科幻小说和法学界，人们习惯上仍称之为机器人三法则。

机器人三法则备受推崇，被称为“当代机器人学的基本法则”“现代机器人学的基石”。即使是放在当前的人工智能环境中，该法则也是非常具有启发意义的伦理指引。2016 年欧盟制定的《机器人技术民事法律规则》就明确指出，“阿西莫夫机器人三法则应当可以直接适用于具有自主性和自我学习能力的机器人的设计者、生产者和操作者，尽管这些法则并不能被转换成机器代码”。

“机器人三法则”的困境

那么，机器人三法则是否可以解决两难困境呢？笔者认为，答案是否定的。

首先，机器人三法则存在内

在冲突阿西莫夫在小说《环舞》中便展现了这一矛盾：两名宇航员在水星执行任务时，一名宇航员命令机器人斯皮迪采集硒矿。但斯皮迪在硒矿湖附近徘徊不前——靠近硒矿湖会触发第三法则（自我保护），远离后又触发第二法则（服从命令）。

两个法则不断拉扯，使机器人陷入循环。这源于斯皮迪造价昂贵，程序上加强了自我保护机制，使第三法则权重上升，最终与第二法则产生冲突。由此可见，机器人三法则本身正是建立在逻辑张力之上，若其完全协调，许多科幻作品便不会有如此丰富的戏剧冲突。

其次，机器人三法则并不完全符合伦理

机器人三法则完全以人类利益为中心，并不必然体现真正的“善”。第二法则要求机器人无条件服从人类命令，只要不违反第一法则。这将赋予每个人类对机器人极大的支配权，即便出于无理甚至恶意的目的，人类仍可命令机器人伤害自己或自毁。由于服从法则优先于保护法则，机器人对自身无法有效防护。这种权力结构并不构成人机和谐的伦理基础。理想的机器人伦理，不仅应规范机器人行为，也应反向促进人类的道德自律。

最后，机器人三法则无法解决两难困境

机器人三法则的逻辑预设机器人总能找到不伤害人类的“好”选择，然而现实中常有道德两难：自动驾驶汽车面对小女孩和祖母，转向或直行都会造成伤害。此时，机器人无论如何抉择，都将违背第一法则，陷入伦理困境。更复杂的是，机器人三法则未明确“伤害”的程度区分，在生命与健康、重伤与轻伤之间缺乏判断标准。例如，撞击小女孩可能致命，而撞击祖母仅造成轻伤，但机器人三法则对此无能为力。

“机器人碰撞三法则”的提出

为破解“电车难题”的道德困境，应立足于提升全体交通参与者安全的目标，为自动驾驶汽车构建“机器人碰撞三法则”。

第一法则：生命利益优先法则

生命利益应优先于财产与动物利益，这在德国《自动和网联车辆交通伦理准则》第 7 条中已有体现。无论车内外人员，生命利益都应被优先保障。与此同时，生命利益有条件地优于健康利益，如自动驾驶汽车直行会导致甲死亡，左转仅会使乙受伤，此时可选择左转。但这种“优先”并非无条件：若为挽救一人生命而导致多人重伤，则道德上难以正当化。因此，仅当健康损害轻微且能换取较大生命利益时，生命利益才可优先。

第二法则：遵守交通法规优先法则

交通法规维护多数人安全，应被自动驾驶系统优先遵循。当两难困境源于一方违法，自动驾驶汽车应优先保护守法一方。例如，逆行骑手与正常过路人构成冲突，应由违法者承担后果，车辆应直行，不应转向以牺牲他人安全。即使违法者人数更多，如五人骑手逆行，也不应转向撞向守法个体或牺牲车内乘客。唯有坚守这一底线，才能真正维护规则的权威，促使公众普遍遵守法律。

第三法则：不改变路线兜底法则

前两种法则无法涵盖所有情形，如两人都违反交通规则，或都遵守交通规则时，该如何抉择？此时，“不改变路线”可作为兜底机制。例如，自动驾驶汽车直行撞到甲、左转撞到乙、右转牺牲乘客，甲乙均违法，生命利益也相等，此时应维持既定路线，选择直行。同理，在双方都守法的情况下，也应适用该法则，避免人为选择决定生死。

深圳对“电车难题”的前沿探索

作为我国自动驾驶汽车发展的先行城市，深圳不断探索解决相关法律问题，推动产业加速发展。2022 年，深圳出台全国首部规范智能网联汽车管理的法规——《深圳经济特区智能网联汽车管理条例》（以下简称《条例》），为自动驾驶汽车的准入、管理与责任划分提供了制度保障。

2023 年，深圳发布十项地方标准，构建起地方技术准入体系，成为全国首个制定智能网联汽车标准的城市。在应对“电车难题”方面，深圳也展开了诸多前沿探索。

坚持产品准入

《条例》高度重视安全管理，明确实行产品准入制度，从源头减少“电车难题”的发生。一方面，生产者与销售者须对产品质量安全负责，建立可追溯机制；另一方面，需完善售后服务体系，若发生重大故障，应及时提供技术支持与救援服务。此外，生产者若发现产品存在缺陷，应立即调查并向监管部门报告，确认为缺陷产品的，必须停止相关活动并实施召回，经营者也须配合处理。

坚持全生命周期安全

除功能安全与预期功能安全外，《条例》还强调网络安全与数据安全，防止黑客入侵引发风险。企业应依法取得安全认证，建立应急预案与数据管理制度，确保信息安全。在产品使用中，要求车辆配置自动驾驶模式外部指示灯，运行时需开启，提醒他人注意；驾驶人则须按规定掌握并规范使用自动驾驶功能，履行相应义务。

坚持以人为本

《条例》注重落实伦理困境下的“人在环内”原则，保障人在“电车难题”中的参与权。具言之，有条件和高度自动驾驶汽车必须具备人工驾驶模式，配备驾驶人，驾驶人需在驾驶座监控车辆状态，随时准备接管。完全自动驾驶汽车应具备故障或危险情形下自动采取避险措施的能力，如减速、远程接管等。由于完全自动驾驶短期难以全面落地，故可以认为深圳强调的是人的决策参与，一旦发生“电车难题”，驾驶人需要介入选择。

（原文《自动驾驶汽车“电车难题”的伦理困境与立法因应》发表于《法学》2024 年第 11 期，经作者修改后在《深圳法治评论》刊发。）