首页 > 分享 > A Review of Studies on ELSI of Automated Vehicles

A Review of Studies on ELSI of Automated Vehicles

萌宠菠菠乐园
2024-10-01 03:15

摘要: 随着人工智能广泛应用于各个领域，自动驾驶技术得到了长足发展，自动驾驶汽车的商用化也渐成趋势，自动驾驶的伦理、法律与社会问题的研究也开始出现。相关研究关注的核心问题包括：AI系统“道德算法”预设问题；制造商、乘客、行人、监管部门、汽车自身的责任分担问题；现行监管政策的挑战应对问题。本文在梳理核心问题的基础上，主要考察了自动驾驶汽车的伦理规范、法律责任和监管政策三个方面的研究状况。

一、引言

2014年12月，严格意义上的自动驾驶汽车由美国谷歌公司研发成功。汽车通过软件和传感器实现全自动驾驶。2015年12月百度公司也完成了其自动驾驶汽车的首次路测。2016年之后，Uber、通用、特斯拉、英特尔及苹果等企业先后开始加入自动驾驶汽车研发竞赛。截止2017年6月，美国加州车辆管理局已经向36家企业发放了自动驾驶汽车的路测牌照。在2017年“两会”上，李彦宏发言指出，世界范围内的主流汽车厂商都已接受一个基本观点，即在2021年到2022年之间自动驾驶汽车会实现商用。

近年来，纳米技术、基因编辑技术等各种新技术的发展不断地对既有的伦理、法律和社会规范提出挑战。科技在增强人类能力的同时，也颠覆和改变着社会传统的价值观念与思维方式。进入21世纪，有关科技发展的ELSI（Ethical, Legal, and Social Implications）研究开始涌现。自动驾驶汽车融合了环境感知、电子计算机、自动控制及人工智能等诸多技术领域，几乎包含了下一代信息技术的全部内容。随着自动驾驶汽车商用化可能性的浮现，有关自动驾驶的ELSI研究也逐步展开。

自动驾驶汽车，尤其是完全无人驾驶汽车的研发和路测是最近三年兴起的，其应用前景、安全性、可接受性和对现实交通状况的影响等方面已有大量新闻报道，但相关的ELSI学术研究还非常有限。本文通过Google Scholar、Science Direct、Wiley、Jstor、ProQuest、SpringerLink、Taylor & Francis等学术检索系统的主题检索，并通过挖掘已获得文献间的相互引证，发现：已发表的学术研究成果主要集中在2015年至2017年间，并且主要分布于自动驾驶汽车的伦理规范、法律责任及政府监管三个方面：

第一，自动驾驶汽车之所以成为未来交通的优先选择，核心原因在于其显示出了相比人类驾驶更高的安全性，能够有效减少交通事故的发生率和死亡率。然而，如果一辆自动驾驶汽车正面临不可规避的交通事故，AI系统会选择撞向谁？自动驾驶汽车不仅把一个百年历史的产业推上了创新的前沿，还迫使人类面对至关重要的问题：我们愿意把多大的控制权交给机器？

第二，关于自动驾驶汽车的争议，除了道德规范之外，法律是其面临的最大阻力。自动驾驶汽车一旦发生交通事故，势必挑战现行的法律法规，其中包含了设计、制造、用户多重法律关系。传统上，在发生交通事故后可以按照司机的操作问题明确相关法律责任，但无人驾驶汽车是人工智能在开车，在交通事故中谁来承担法律责任，是车主还是车企，抑或是汽车自身？

第三，在道德与法律问题之外，自动驾驶汽车的最终上路将对现有的城市基础设施、交通管理方式、环境排放、汽车业、物流业及保险业等诸多方面产生重大影响，那么政府在有效监管和政策调控方面将发挥怎样的核心作用？

由此，本文将聚焦于自动驾驶汽车的伦理规范、法律责任与监管政策三个方面，总结当前刚刚起步的ELSI学术研究成果，阐明当前研究的主要理论目标和方法，分析自动驾驶汽车相关社会障碍的未来可能解决路径，进而讨论未来对自动驾驶汽车的伦理规则、立法及政策安排中应注重的基本面。需要特别说明的是，大量的新闻报告和有限的研究文献对自动驾驶汽车的名称界定存在差异，所使用的词汇包括了“autonomous” “self-driving” “driverless” 以及“robotic”等形容词，而对汽车的描述则主要是“car”与“vehicle”。出于学术研究的准确性的考虑，也有部分作者在文章中提出由于现有用词的多样而同等使用以上词语。在中文报道中，主要使用的是“无人驾驶汽车”与“自动驾驶汽车”两种称谓。鉴于全球首个自动驾驶汽车官方政策文件—《联邦自动驾驶汽车政策》（Federal Automated Vehicles Policy）已于2016年9月20日在美国出台，本文将使用“自动驾驶汽车”（automated vehicles）的概念。

二、伦理规范问题

当前有关自动驾驶汽车伦理困境的讨论主要与道德哲学中著名的“电车难题”相关。“电车难题”是由哲学家Philippa Foot于1967年提出的著名思想实验，用以批判功利主义，其基本设定是：你可以通过变轨使一辆失控的电车撞向一个人或者不变轨使电车撞向5个人。在后来的几十年时间里，道德哲学家发展出了大量变体。而如果一辆自动驾驶汽车也面临类似不可规避的交通事故，AI系统会选择撞向谁？应该牺牲车内乘客还是路上行人？2015年Mitchell Waldrop在《自然》发表的报告显示：如果事故不可避免，多数人不愿将选择权交由机器。如果没有明确的伦理规则出台以指导无人驾驶汽车的事故决策，将很难改变用户目前的不信任状态，甚至可能导致人们拒绝购买自动驾驶汽车。[1] 因此，界定自动价值汽车伦理规范已经迫在眉睫，但当前的理论研究尚处于起步阶段。

Patrick Lin教授是美国加州州立理工大学伦理与新兴科学组主任，他同时受雇于谷歌公司X实验室自动驾驶项目，为自动驾驶汽车未来可能产生的伦理问题提供决策咨询。2016年Patrick Lin就自动驾驶汽车的特点，参照电车难题的各种变体，设计了相应的具体情境以讨论自动驾驶汽车在可能的事故中面临的道德困难，比如说面对在美国高速公路经常出现的野鹿，面对有不同防护措施的行人或摩托车、甚至面对众多穿过马路的小孩，自动驾驶汽车应当如何抉择。此外，他还讨论了未来可能的交通事故之外的更广泛的伦理问题，比如：如果一辆公共的自动驾驶汽车，其是否涉及类似的道德困境？自动驾驶汽车的发展是否会进一步纵容酒驾等不道德甚至违法行为？自动驾驶汽车的计算系统一旦被黑客攻击，其驾驶行为所产生的任何偏差应由谁承担责任？[2]

Sven Nyholm与Jilles Smids对此提出了反对意见，他们认为自动驾驶汽车所面临的道德困境并不同于“电车难题”。前者是一种切实可能发生的场景，我们必须对未来的汽车算法提供抉择依据。由此，他们详细对比了自动驾驶汽车的“事故算法”与电车难题的差别：前者涉及到制造商、车主、监管部门等多个利益主体共同决定如何设计“事故算法”，而后者只涉及个体的道德抉择，并且前者的道德决策将直接担负事故的道德责任和法律责任；前者是一种对未来可能事件的预先设计或者说应急计划，而后者是一种当下选择；在认知情境方面，前者是在高度不确定性下的风险评估和决策，后者面对的是确定的并且已知的事实；而在道德原则方面，后者只涉及是撞向多数还是少数（或强者还是弱者），而前者则涉及到要牺牲车主还是行人，这就不再只是义务论与功利主义的冲突，还包含了人的自我保护以及自动驾驶汽车对车主的责任问题。[3]Sven Nyholm与Jilles Smids通过反思大量新闻报告和部分研究中将自动驾驶汽车的道德困难与“电车难题”类比的事实，刻画出了自动驾驶汽车在未来的可能事故中涉及的道德决策的复杂性、道德和法律责任的模糊、以及道德原则的相互冲突问题。

自动驾驶汽车的“道德算法”应当以减少死亡为原则还是以保护车主为原则？这就给自动驾驶汽车的算法提出了道德挑战。面对这一算法难题，法国图卢兹经济学院的Jean-François Bonnefon等2016年在《科学》上发表实证研究文章，认为对自动驾驶汽车的“道德算法”设定已不可避免。他们采用了“实验伦理学”的方法进行算法与人类价值相结合的考察，在“Mechanical Turk”网络平台进行了6项网上调查。调查结果显示：第一，自动驾驶汽车“道德算法”的决定应由三个主体参与，即政府提出汽车制造商可选择的编程类型，制造商进行具体编码，车主作为消费者可选择购买不同算法和厂商的车型。这也就意味着他们的调查显示出大部分公众并不希望市场只提供单一“道德算法”的车型，公众希望自己能够拥有选择权，并且由政府的专业部门提供基础选项；第二，在面对撞向更多路人还是牺牲自己的选择时，大部分人倾向于功利主义的道德算法，既拯救更多的生命，但在选择购买何种算法的自动驾驶汽车时，人们又绝对倾向于购买基于自我保护算法的车，而非功利主义算法的车。[4] Ivo Coca-Vila2017年在讨论自动驾驶汽车的程序设定面临的功利主义原则和自我保护原则的矛盾时，没有分析伦理原则的差异也没有诉诸公众态度调查，而是引入了当前有关交通事故处理的刑事法律的基本框架，通过区分5种不同的事故情境，认为功利主义原则在当前交通刑事法律原则中不能得到辩护，而应该基于一种义务论的理解，即依据所有主体在事故中的法律地位，以自主性（autonomy）和一致性（solidarity）作为道德辩护的核心。[5]

面对这一道德难题，美国麻省理工学院（MIT）媒体实验室上线了一个名为“道德机器”的网站，以问卷的形式面向大众收集情境选择的数据。每个场景都提供了一些背景要素，包括受害者的年龄性别，他们的社会地位，以及他们是否遵纪守法。参与者被要求在13个两难境地中做出抉择。调查结果被作为众包数据堆积起来，并在未来用于伦理规范的制定中。道德机器已经收集了关于1100万场景的答案。尽管MIT的团队还没开始对这些数据深入分析，但他们已经发现了面对这一道德难题的地区文化差异。他们指出，来自美国西部地区的参与者更为重视减小伤亡数目的价值，也就是说，相比东部人，他们更赞同功利主义的选择。这意味着对“道德算法”的设定还必须考虑道德文化多元主义的影响。这进一步增加了未来规制自动驾驶汽车的伦理原则和相关监管政策的难度。

我们知道，自动驾驶汽车的兴起主要归功于近年人工智能的重要发展，而人工智能的核心要素在于机器对人类行为和知识体系的“深度学习”。我们可以设计自动驾驶汽车的AI系统学习人类驾驶员的行为方式，但对于道德规范的学习却过于复杂，尤其是面对交通事故的高度不确定性。对此，Neil McBride指出，机器对人类伦理规范的学习涉及到自治（autonomy）、社群（community）、身份（identity）、价值（value）及移情（empathy）等多个层面的系统学习，这使得将人类从自动驾驶中完全移除是不可能的。[8] 当然，正如人工智能在诞生之初未能预料到当前如此广泛和深入的应用一样，我们也很难预测技术的发展程度。不到十年前Wendell Wallach与Colin Allen（2009）的极具启发性的著作—Moral Machine还将机器能否成为“道德能动者”作为一个完全假想的问题[9]，现在随着人工智能在包括汽车业在内的众多行业的广泛应用，机器的自主道德决策已经成为了我们不得不面对的现实选项之一。

2017年6月，德国交通部下属的伦理委员会发布了一份《自动和联网驾驶》报告，在其中提出了自动驾驶汽车需要遵守的20条伦理规则。这些伦理规则的核心内容包括：（1）保护个人优先于其他一切功利主义的考虑；（2）当危险情况不能避免时，保护人类生命优先于其他法律利益，为了避免造成人员伤亡，可以给动物或者财产造成损害，这在编程上是被允许的；（3）道德困境之下的决策依赖于现实的具体情况，不可能被清楚地标准化，因此也不可能被事先编程；（4）在面对不可避免的事故时，禁止基于人身特征（年龄、性别、生理或者心理状况等）进行歧视，同时不得牺牲不相关方。德国系统提出自动驾驶的20条伦理规则在全球范围内尚属首次。德国连同美国、英国等的自动驾驶汽车政策说明在自动驾驶领域规则先行的重要性。但伦理规则的探索要避免给产业套上紧箍咒，阻碍创新。

三、法律责任问题

如果自动驾驶汽车在公共道路上致人伤亡、致财产毁损，法律责任应如何分担？2016年5月，一辆特斯拉电动车在美国佛罗里达州以自动驾驶模式行驶时与一辆横穿公路的货车相撞，导致电动车主丧生。这是世界范围内曝光的首例自动驾驶功能的交通死亡事故。经过长期调查，2017年1月美国公路交通安全管理局（NHTSA）公布了调查报告，结果显示事故原因与特斯拉的自动驾驶系统无关，这也意味着特斯拉公司无需承担相应法律责任。这起事件已经显示出了自动驾驶汽车所引发交通事故的法律责任界定的困难。完全自动驾驶汽车实现商用后，一旦发生交通事故，势必挑战现行的法律法规，其中包含了设计、制造、用户的多重法律关系。

德国学者Alexander Hevelke等指出，即使自动驾驶汽车只能减少部分道路交通的伤亡，政府也有义务推动其发展，然而一旦完全无人驾驶汽车上路，就必须明确谁对可能产生的交通事故负有责任。文章分别讨论了制造商和车主应该担负的事故责任：对于汽车制造商而言，自动驾驶汽车能够有效拯救生命就足以减少他们对车辆的事故风险所承担的责任，当然其前提是制造商不能知道“明确”的安全隐患存在而将自动驾驶汽车推向市场；对于车主而言，如果车主没有能力及时接管自动驾驶汽车，那么其造成的事故车主应不承担全部责任。[6] 这篇文章虽然给出了事故责任的明确观点及其道德理由，但似乎并无助于自动驾驶汽车事故风险的责任分配，政府监管部门、制造商、车主、驾驶人及行人等主体究竟应分别承担怎样的责任仍有待进一步讨论。

Nick Belay分别考察了制造商、个人、保险公司及立法机构在自动驾驶汽车的事故中所发挥的不同作用和承担的不同法律责任。他认为，在无人驾驶汽车上市之前，必须要通过法律明确“行使权”和“驾驶权”问题，这就需要修改包括刑法、道路交通安全法、保险法等一系列法律条款，以明确相关法律责任，为自动驾驶汽车上路打破法律障碍。在此基础上，文章进一步提出新的法律框架应以保护车主或车中乘客的利益为基本原则。[10] 与其结论类似，Sabine Gless首先承认了当前人工智能的发展在各个领域所产生的机器决策现象，但同时指出机器还无法作为现行法律的惩戒对象，因此任何人如果允许机器做出自主决策，都应该能预见到机器总是会失控并且应当为此承担法律责任。与此同时，作者又通过考察德国和美国现行交通法规，提出在具体的自动驾驶汽车的交通事故中，应当有原则地限制对车主追究刑事责任，这是因为部分人对自主决策机器的使用已经为促进社会总体福利做出了贡献，对其因疏忽引发的事故不应追究完全的刑事责任。[11]

与以上基于现行法律的理论研究不同，斯坦福大学的Jamy Li等设计了两个网络思想实验，考察了美国公众对于自动驾驶汽车所涉及交通事故的法律责任的态度，并分别在120位美国成年公民中做了调查。研究结果显示，在发生同样交通事故的情况下，公众倾向于认为自动驾驶汽车比人类驾驶者应承担更少的责任，并且他们倾向于认为汽车制造商和政府应承担相应的法律责任，因为他们无法将汽车视作能够为自己行为负责的独立道德主体。此外，该研究还显示，公众倾向于认为应当由相关的伦理研究者和汽车制造商为自动驾驶汽车设计伦理和法律规范。[12]

苏黎世联邦理工学院的Sebastian Hörl与Francesco Ciari在他们未公开发表的研究报告—“Recent perspectives on the impact of autonomous vehicles”中讨论到了汽车制造商的法律责任的限度。他们认为，自动驾驶汽车一旦上路，就进入一种开放式环境，并随之启动自我学习和自我更新功能，最终行为将远远脱离制造商预期，法律风险也将不可控。因此，责任承担的基本思路应当有所转变，从“疏解”变为“锁定”，即制造商只对出厂前在封闭环境下生产出来的自动驾驶汽车的产品质量负责，车身搭载的自动化系统、软件代码、硬件等必须全部标准化，进行严格的出厂备案和登记，以出厂节点为界，切断法律责任。[13]

对此奥地利学者Mark Coeckelbergh的态度更加激进。他认为，人工智能技术运用于汽车后重新塑造了车主和其他交通事故涉及者的主体性。通过发现这一经验变化的道德蕴含，他认为这从根本上改变了“责任”的意义。他的核心论点是如果承认或部分承认了机器的道德主体地位，即机器能动性（machine agency）对人类能动性（human agency）的代替，自动驾驶汽车自身也作为主体参与到未来可能的交通事故中，那么事故的道德责任界定将被彻底颠覆。[7]

德国率先通过了涉及自动驾驶汽车事故追责的法案。2017年6月，德国联邦议院颁布了“道路交通法第八修正案”。该修正案明确了使用自动驾驶系统时驾驶员的权利和义务。在自动驾驶系统接管状态下，驾驶员可以不对交通状况和车辆进行监控，但是驾驶员仍需时刻保持清醒戒备状态准备随时接管。在自动驾驶系统向驾驶员发出接管请求以及当驾驶员发现自动驾驶系统不能正常工作时，驾驶员应立刻接管车辆。

自动驾驶汽车对现行法律的挑战和拓展除了集中于交通事故的法律责任的分配，还表现在对车主或使用者隐私权的挑战。Armin Grunwald在对自动驾驶汽车的社会风险的分析中指出，每一辆自动驾驶汽车的信息均是大数据的一部分[14]，特斯拉即是通过其已经售出的具有自动驾驶功能汽车搜集全美乃至全世界的交通信息，而倘若这些数据丢失、被盗或遭遇黑客入侵，将极有可能被恶意泄露或利用。现行法律无法涵盖个人的乘车时间、地点以及目的地等行程轨迹。同时，现行法律对车辆行驶记录数据的丢失、盗取等行为的规范也存在漏洞，威胁到个人隐私权的保护。如何保护此类数据并明确相关主体的法律责任是该领域的重要议题。

鉴于自动驾驶所依赖的大数据技术，Kai Rannenberg强调了行驶数据的收集和可能的滥用问题，文章认为数据的网络化将改变传统驾驶中的“自由”概念，使用自动驾驶汽车受限于数据而存在不自由的危险，在相关立法中应注意自动驾驶汽车消费者的隐私保护。[15] 因此，在对自动驾驶汽车的相关立法中，除对安全和测试、销售和使用做出规定外，还应当涵盖自动驾驶汽车行驶过程中可能出现的各种情况，包括自动驾驶的法律后果和法律责任主体，以及自动驾驶过程中所产生数据的所有权归属和数据保护等方面。

四、监管政策问题

自动驾驶汽车的上路，将挑战现行交通管理体制，包括了驾驶证制度、汽车保险体制、处罚制度等。为此，2016年3月联合国重新修订了《维也纳道路交通公约》，允许自动驾驶技术运用于交通运输中，为自动驾驶的商业化应用清除了障碍。2016年9月20日美国交通运输部（DOT）公布了全球首个自动驾驶汽车政策文件《联邦自动驾驶汽车政策》（Federal Automated Vehicles Policy），用以全面规制自动驾驶汽车的应用。然而，由于自动驾驶汽车对现行体制挑战的复杂性，包括我国在内的大多数国家尚未提出相关监管政策。

在政府监管方面，部分研究者已经分析了自动驾驶汽车对现行监管体制的挑战：Milos Mladenovic等提出自动驾驶汽车的大规模应用将彻底改变交通控制技术，而技术的变革将带来安全性、可持续性、隐私保护和效率等方面的重大改变，文章分别解释了自动驾驶汽车在这几个方面对传统交通控制技术的挑战，并进一步描述了未来处理这些问题的可能视角：一方面要在车辆间维持一个合作的分层级自组织性，另一方面是根据自动驾驶汽车使用者的信用层级提供一个可供优先选择的网络系统。[16] Saeed Bagloee等认为自动驾驶汽车与现有交通体系的融合关键在于与道路基础设施的连接以及与非自动汽车的融合问题。文章提出其连接的关键在于汽车导航系统和大数据技术的运用，从自动驾驶汽车与基础设施相结合的角度出发，考察了道路容量、交通拥堵、自动化程度等维度，提出了一个自动驾驶汽车的导航模型（a navigation model for the AV），希望帮助交通管理部门制定新的交通管理政策。[17] Alan Eastman提出自动驾驶汽车新技术的涌现，将首先对其中的“驾驶人”提出挑战，有调查已经显示现在的汽车用户几乎完全不了解运用在新一代汽车中的人工智能系统，尽管其具有良好的安全行驶记录，但是乘客及行人对于安全的需求却远远超过设计者的预想，即使技术已经较为成熟，但要人类信任自行转动的方向盘是极为艰难的，因此文章提出政府部门应首先推出新的驾驶人培训乃至新的驾驶执照制度。[18] Peter Wagner则针对自动驾驶汽车对交通效率的改变进行了一项细致的研究，聚焦于自动驾驶汽车完全上路后对现行交通信号灯系统的影响，设置了一系列假想场景，提出如果设计出完全符合自动驾驶汽车特性的交通信号灯体系将极大的提高道路通行效率，当然这还涉及到开辟自动驾驶汽车的专用道路。[19]

面对自动驾驶汽车对政府监管提出的挑战，美国的政策规制起步最早且较为完善。《联邦自动驾驶汽车政策》主要包括四部分内容：第一部分为“安全评估”，提出了供自动驾驶汽车设计、测试和应用的15条措施；第二部分为“州政策样板”，涵盖了联邦与州在高度自动驾驶汽车监管方面的分歧与协调；第三部分与第四部分均为“监管工具”，首先明确了美国公路交通安全管理局（NHTSA）如何确保新技术应用的安全性，其次明确了“现代监管工具”的重要性，认为政策制定者应促进挽救生命的各项技术在自动驾驶车辆上的应用。新政策发布后，NHTSA发布了进一步细化了新政的执行文件，并特别指出，若出现自动驾驶系统危险情况下导致司机无法重新控制车辆的风险，NHTSA将进行强制性召回处理。[20]

2016年起，世界各主要国家也陆续宣布开始酝酿出台自动驾驶汽车的相关监管政策：2016年5月，针对自动驾驶汽车引发事故的责任所属问题，日本警视厅已经开始进行法律层面的探讨，并计划展开关于自动驾驶汽车发生事故的赔偿机制的讨论。2016年7月11日，英国商务部和运输部大臣公开表示，英国将清除束缚自动驾驶汽车的法规，其中包括交通规则，以及驾驶员必须遵守的政策法规。2016年7月，德国交通部长表示，德国计划要求汽车制造商为旗下配备了自动驾驶模式的汽车安装黑匣子，记录自动驾驶模式是何时激活的，驾驶员何时参与驾驶，以帮助确认事故责任人。

2017年9月6日，美国众议院通过了美国首部自动驾驶汽车法案（Self Drive Act）。该法案修订了美国交通法典，规定了美国国家高速公路安全管理局对于自动驾驶汽车的监管权限，同时为自动驾驶汽车提供安全措施，奠定了联邦自动驾驶汽车监管的基本框架。这一法案可以说是全球范围内首个重大的自动驾驶汽车立法，不仅会对美国自动驾驶汽车技术和产业产生重大影响，而且会给世界其他国家和地区产生示范效应。该法案受到了美国科技公司的普遍欢迎，也说明了法律的作用不仅仅是限制，而是可以促进甚至加速创新进程。

从我国来看，2015年国务院印发了《中国制造2025》，将智能网联汽车列入未来十年国家智能制造发展的重点领域，明确指出到2025年要掌握自动驾驶总体技术及各项关键技术，建立较完善的智能网联汽车自主研发体系、生产配套体系及产业群。2017年3月5日，李克强总理在政府工作报告中指出要加快培育壮大包括人工智能在内的新兴产业，“人工智能”也首次被写入国家政府工作报告。百度等互联网企业率先将他们的人工智能技术运用于汽车行业，由此推进了我国自动驾驶汽车的发展。工信部2016年在上海开展上海智能网联汽车试点；北京已出台智能汽车与智慧交通应用示范五年行动计划，将在2020年底完成北京开发区范围内所有主干道路智慧路网改造，分阶段部署1000辆全自动驾驶汽车；江苏于2016年11月与工信部、公安部签订三方合作协议，共建国家智能交通综合测试基地。

随着各国自动驾驶汽车相关监管政策的出台或进入公开讨论，已有部分研究者开始进行政策评估。Janet Fleetwood从公众健康的角度评估了美国《联邦自动驾驶汽车政策》的有效性，认为新政策的出台对于公共生命安全具有重大意义，将减少94%的由人类失误引起的道路死亡，也就意味着仅在美国一年就可以拯救2.9万条生命，因此文章鼓励公共健康专家能够介入到全球自动驾驶汽车的相关立法和政策制定的讨论中。[21] Miranda Schreurs与Sibyl Steuwer从技术创新政策的角度分别考察了美国、日本、瑞典、英国和德国的自动驾驶汽车政策，重点关注了新汽车政策中非政府组织的作用，以及自动驾驶技术对环境政策的作用。[22]

五、结论

以上对自动驾驶汽车ELSI研究评述显示：

关于伦理规范问题，当前研究主要聚焦于自动驾驶汽车可能引发的交通事故中的道德决策，其中涉及到了道德决策过程本身的多主体参与、场景复杂性以及预先“设定死亡”等问题，而道德决策背后则关系到如何设定道德算法的问题。实际上，我们不能确定机器通过“深度学习”而培养的道德决策能力是否优于人类为其预设道德算法，就其本质而言，鉴于交通事故场景的无限性，预设道德算法和机器自主道德决策都要求自动驾驶汽车根据具体环境信息进行决策，差别仅是自主性的强弱，当然更重要的差别在于一条确定的预设的道德原则将便于事后追责，这就涉及到了自动驾驶汽车相关事故的立法问题。

关于法律责任问题，随着完全自动驾驶汽车的商业化，在现有的法律规范下，这一新兴交通方式将对驾驶制度、个人隐私权以及交通事故的法律责任承担等方面提出挑战。现有的少数学术研究集中关注于可能交通事故的法律责任分配问题：一旦自动驾驶汽车发生交通事故，与其相关的汽车制造商、乘客、行人、监管部门乃至汽车自身，谁应当承担责任以及分别应当承担怎样的责任。然而，现有相关的理论或实证研究所得的责任分配结论仍然莫衷一是，并且现实生活中仅有特斯拉所引发的死亡事故这一个判定案例，各国相关立法过程也还在酝酿阶段。因此，对于自动驾驶汽车的道德和法律责任，制定明确的伦理规则和法律还远不够，解决问题的第一步或许是发起一场对自动驾驶汽车事故责任问题的公开讨论，让参与各方认清问题所在。

关于监管政策问题，目前除美国、德国已经发布了比较完整的自动驾驶汽车法规外，其他国家对于自动驾驶、智能网联相关政策标准的制定仍在进行当中。整体来看，各国相关法规标准的制定内容包括：定义、分级、技术开发、汽车制造以及各项安全法规和道路交通规则等，涵盖智能网联汽车发展的各个方面，这也决定了智能网联汽车发展必然是一个漫长的过程。现有的研究文章主要分析了自动驾驶汽车对现有的城市基础设施、交通管理方式、物流业及保险业等产生的挑战，并针对交通管理制度、驾驶执照制度及隐私保护政策提出了政策建议，此外还有部分研究者对于各国相关现行政策做了一定的评估。自动驾驶汽车的商用化对众多领域的现行政策都将产生重大影响，然而当前对相关政策的严肃研究却极为匮乏，尤其缺少各个具体领域专业人士对政策出台和调整的评估。

在宏观方面，需要强调的是，自动驾驶汽车的发展为我国道路交通的共享经济提供了可能。2017年7月20日国务院正式印发《新一代人工智能发展规划的通知》，其中首次提出将探索自动驾驶汽车共享模式：“发展自动驾驶汽车和轨道交通系统，加强车载感知、自动驾驶、车联网、物联网等技术集成和配套，开发交通智能感知系统，形成我国自主的自动驾驶平台技术体系和产品总成能力，探索自动驾驶汽车共享模式。”[23] 自动驾驶汽车的共享模式将彻底改变当前的汽车产权结构，未来可以只有“乘客”而没有“车主”的概念，按需分配自动驾驶汽车，从而大幅提高汽车的使用率同时降低交通事故发生率，并且可以解决道路拥堵及停车难的问题，这也将彻底改变当前的交通监管和调度机制，这也可以成为我国发展自动驾驶的重要着力点之一。

参考文献

[1]WALDROP M. M. No Drivers Required. Nature, 2015, 518(7537): 20–23.[2]LIN P. Why Ethics Matters for Autonomous Cars. in Maurer, M., Gerdes, J. C., Lenz, B., & Winner, H. Autonomous Driving: Technical, Legal and Social Aspects. Springer Publishing Company, Incorporated, 2016.[3]NYHOLM S, SMIDS J. The Ethics of Accident-Algorithms for Self-Driving Cars: an Applied Trolley Prob-lem?.Ethical Theory and Moral Practice, 2016, 19(5): 1275-1289.DOI: 10.1007/s10677-016-9745-2.[4]BONNEFON J. The Social Dilemma of Autonomous Vehicles.Science, 2016, 352(6293): 1573-1576.DOI: 10.1126/science.aaf2654.[5]COCA-VILA I. Self-driving Cars in Dilemmatic Situations: An Approach Based on the Theory of Justification in Criminal Law. Criminal Law and Philosophy, 2017:1-24. DOI: 10.1007/s11572-017-9411-3.[6]HEVELKE A, NIDA-Rümelin J. Responsibility for Crashes of Autonomous Vehicles: an Ethical Analysis. Science and Engineering Ethics, 2015, 21(3): 619–630.[7]COECKELBERGH M. Responsibility and the Moral Phenomenology of Using Self-Driving Cars.Applied Artificial Intelligence, 2016, 30(8): 748-757.DOI: 10.1080/08839514.2016.1229759.[8]MCBRIDE N. The Ethics of Driverless Cars.ACM SIGCAS Computers and Society, 2016, 45(3): 179-184.DOI: 10.1145/2874239.[9]WALLACH W, ALLEN C. Moral Machine: Teaching Robots Right from Wrong. New York: Oxford University Press, 2009.[10]BELAY N. Robot Ethics and Self-Driving Cars: How Ethical Determinations in Software Will Require a New Legal Framework.The Journal of the Legal Profession, 2015, 40(1): 119-155.[11]GLESS S, SILVEMAN E, WEIGEND T. If Robots Cause Harm, Who is to Blame? Self-driving Cars and Criminal Liability.New Criminal Law Review, 2016, 19(3): 412-436.[12]LI J, ZHAO X, CHO M. J, JU W. & MALLE B. F. From Trolley to Autonomous Vehicle: Perceptions of Responsibility and Moral Norms in Traffic Accidents with Self-Driving Cars. SAE Technical Paper 2016-01-0164, 2016, doi:10.4271/2016-01-0164.[13]HöRL S, CIARI F, AXHAUSEN K W. Recent Perspectives on the Impact of Autonomous Vehicles. Working paper, September 2016.[14]GRUNWALD A. Societal Risk Constellations for Autonomous Driving. Analysis, Historical Context and As-sessment. in Maurer, M., Gerdes, J. C., Lenz, B., & Winner, H. Autonomous Driving: Technical, Legal and Social Aspects. Springer Publishing Company, Incorporated, 2016.[15]RANNENBERG K. Opportunities and Risks Associated with Collecting and Making Usable Additional Data. in Maurer, M., Gerdes, J. C., Lenz, B., & Winner, H. Autonomous Driving: Technical, Legal and Social Aspects. Springer Publishing Company, Incorporated, 2016.[16]MLADENOVIC M. Engineering Social Justice into Traffic Control for Self-driving Vehicles?.Science and engineering ethics, 2016, 22(4): 1131-1149.DOI: 10.1007/s11948-015-9690-9.[17]BAGLOEE S. Autonomous Vehicles: Challenges, Opportunities, and Future Implications for Transportation Policies.Journal of Modern Transportation, 2016, 24(4): 284-303.DOI: 10.1007/s40534-016-0117-3.[18]EASTMAN A. Self-Driving Vehicles: Can Legal and Regulatory Change Keep Up With New Technology?.American Journal of Business and Management, 2016, 5(2): 53-56.[19]WAGNER P. Traffic Control and Traffic Management in a Transportation System with Autonomous Vehicles. in Maurer, M., Gerdes, J. C., Lenz, B., & Winner, H. Autonomous Driving: Technical, Legal and Social Aspects. Springer Publishing Company, Incorporated, 2016.[20]U.S. Department of Transportation. Federal Automated Vehicles Policy. 12507-091216-v9, Washington, DC20590, United States: National Highway Traffic Safety Administration, September 2016.[21]FLEETWOOD J. Public Health, Ethics, and Autonomous Vehicles. American Journal of Public Health, published online ahead of print February 16, 2017: e1-e6. DOI:10.2105/AJPH.2016.303628.[22]SCHREURS M. and STEUWER S. Autonomous Driving-Political, Legal, Social, and Sustainability Dimen-sions. in Maurer, M., Gerdes, J. C., Lenz, B., & Winner, H. Autonomous Driving: Technical, Legal and Social Aspects. Springer Publishing Company, Incorporated, 2016.[23]国家互联网信息办公室. 国务院关于印发新一代人工智能发展规划的通知. http://www.cac.gov.cn/2017-07/21/c_1121353529.htm.[2017-07-21].

A Review of Studies on ELSI of Automated Vehicles

BAI Hui-ren

School of Humanities and Social Sciences, Xi’an Jiaotong University

Abstract: With the widespread use of artificial intelligence in various fields, the automatedvehicle technology has developed rapidly and the commercialization of automated vehicles has becoming a trend.However, the main obstaclesof fully automated vehicles come from the ethical, legal and social aspects. Current research focuses on the default problem of moral algorithm in AI,the responsibility among the manufacturers, passengers, pedestrians, regulators and even the car itself, the challenges of regulatory policy.Based on the core problems, this essay studied on the ethical norms, legal responsibility and regulatory policy of autonomous vehicle.

Key words: automated vehicles ethical nom legal responsibility regulatory policy

作者简介：白惠仁，西安交通大学人文社会科学学院讲师、博士后。研究方向为科学与民主、科技伦理。

项目资助：中国科协高端科技创新智库青年项目“自动驾驶汽车的伦理规范、法律边界与监管政策研究”（DXBZKQN2017041）、西安交通大学基本科研业务费“智库成果培育项目”（SK2018043）。