自动驾驶汽车的伦理、法律与社会问题研究述评

　　随着人工智能广泛应用于各个领域，自动驾驶技术得到了长足发展，自动驾驶汽车的商用化也渐成趋势，自动驾驶的伦理、法律与社会问题的研究也开始出现。相关研究关注的核心问题包括：AI系统“道德算法”预设问题;制造商、乘客、行人、监管部门、汽车自身的责任分担问题;现行监管政策的挑战应对问题。本文在梳理核心问题的基础上，主要考察了自动驾驶汽车的伦理规范、法律责任和监管政策三个方面的研究状况。

　　《轻型汽车技术》(月刊)创刊于1973年，由南京汽车集团有限公司、江苏省汽车工程学会、南京汽车行业协会主办。杂志是目前国内唯一的轻型汽车技术领域的，以从事轻型汽车设计制造的工程技术人员为主要服务对象的技术性刊物，同时兼顾其它车种及汽车相关行业的工程技术人员。内容包括：国内外轻型汽车系列，产品设计理论，试验测试技术，新工艺、新材料、新技术，轻型汽车发展万向的战略宏观分析研究，企业技术改造、经营管理的实践与经验，市场分析与评论、技术经济信息，汽车使用与维修，国内外汽车动态，汽车文化等等。

　　一、引言

　　2014年12月，严格意义上的自动驾驶汽车由美国谷歌公司研发成功。汽车通过软件和传感器实现全自动驾驶。2015年12月百度公司也完成了其自动驾驶汽车的首次路测。2016年之后，Uber、通用、特斯拉、英特尔及苹果等企业先后开始加入自动驾驶汽车研发竞赛。截止2017年6 月，美国加州车辆管理局已经向36家企业发放了自动驾驶汽车的路测牌照。在2017年“两会”上，李彦宏发言指出，世界范围内的主流汽车厂商都已接受一个基本观点，即在2021年到2022年之间自动驾驶汽车会实现商用。

　　近年来，纳米技术、基因编辑技术等各种新技术的发展不断地对既有的伦理、法律和社会规范提出挑战。科技在增强人类能力的同时，也颠覆和改变着社会传统的价值观念与思维方式。进入21世纪，有关科技发展的 ELSI(Ethical,Legal,andSocialImplications)研究开始涌现。自动驾驶汽车融合了环境感知、电子计算机、自动控制及人工智能等诸多技术领域，几乎包含了下一代信息技术的全部内容。随着自动驾驶汽车商用化可能性的浮现，有关自动驾驶的ELSI研究也逐步展开。

　　自 动驾驶汽车，尤其是完全无人驾驶汽车的研发和路测是最近三年兴起的，其应用前景、安全性、可接受性和对现实交通状况的影响等方面已有大量新闻报道，但相关的ELSI学术研究还非常有限。本文通过GoogleScholar、ScienceDirect、Wiley、Jstor、ProQuest、SpringerLink、Taylor&Francis等学术检索系统的主题检索，并通过挖掘已获得文献间的相互引证，发现：已发表的学术研究成果主要集中在2015年至2017年间，并且主要分布于自动驾驶汽车的伦理规范、法律责任及政府监管三个方面：

　　第一，自动驾驶汽车之所以成为未来交通的优先选择，核心原因在于其显示出了相比人类驾驶更高的安全性，能够有效减少交通事故的发生率和死亡率。然而，如果一辆自动驾驶汽车正面临不可规避的交通事故，AI系统会选择撞向谁?自动驾驶汽车不仅把一个百年历史的产业推上了创新的前沿，还迫使人类面对至关重要的问题：我们愿意把多大的控制权交给机器?

　　第二，关于自动驾驶汽车的争议，除了道德规范之外，法律是其面临的最大阻力。自动驾驶汽车一旦发生交通事故，势必挑战现行的法律法规，其中包含了设计、制造、用户多重法律关系。传统上，在发生交通事故后可以按照司机的操作问题明确相关法律责任，但无人驾驶汽车是人工智能在开车，在交通事故中谁来承担法律责任，是车主还是车企，抑或是汽车自身?

　　第三，在道德与法律问题之外，自动驾驶汽车的最终上路将对现有的城市基础设施、交通管理方式、环境排放、汽车业、物流业及保险业等诸多方面产生重大影响，那么政府在有效监管和政策调控方面将发挥怎样的核心作用?

　　由此，本文将聚焦于自动驾驶汽车的伦理规范、法律责任与监管政策三个方面，总结当前刚刚起步的ELSI学术研究成果，阐明当前研究的主要理论目标和方法，分析自动驾驶汽车相关社会障碍的未来可能解决路径，进而讨论未来对自动驾驶汽车的伦理规则、立法及政策安排中应注重的基本面。需要特别说明的是，大量的新闻报告和有限的研究文献对自动驾驶汽车的名称界定存在差异，所使用的词汇包括了“autonomous”“self-driving”“driverless”以及“robotic”等形容词，而对汽车的描述则主要是“car”与“vehicle”。出于学术研究的准确性的考虑，也有部分作者在文章中提出由于现有用词的多样而同等使用以上词语。在中文报道中，主要使用的是“无人驾驶汽车”与“自动驾驶汽车”两种称谓。鉴于全球首个自动驾驶汽车官方政策文件—《联邦自动驾驶汽车政策》(FederalAutomatedVehiclesPolicy)已于2016年9月20日在美国出台，本文将使用“自动驾驶汽车”(automatedvehicles)的概念。

　　二、伦理规范问题

　　当前有关自动驾驶汽车伦理困境的讨论主要与道德哲学中著名的“电车难题”相关。“电车难题”是由哲学家PhilippaFoot于1967年提出的著名思想实验，用以批判功利主义，其基本设定是：你可以通过变轨使一辆失控的电车撞向一个人或者不变轨使电车撞向5个人。在后来的几十年时间里，道德哲学家发展出了大量变体。而如果一辆自动驾驶汽车也面临类似不可规避的交通事故，AI系统会选择撞向谁?应该牺牲车内乘客还是路上行人?2015年MitchellWaldrop在《自然》发表的报告显示：如果事故不可避免，多数人不愿将选择权交由机器。

　　PatrickLin教授是美国加州州立理工大学伦理与新兴科学组主任，他同时受雇于谷歌公司X实验室自动驾驶项目，为自动驾驶汽车未来可能产生的伦理问题提供决策咨询。2016年PatrickLin就自动驾驶汽车的特点，参照电车难题的各种变体，设计了相应的具体情境以讨论自动驾驶汽车在可能的事故中面临的道德困难，比如说面对在美国高速公路经常出现的野鹿，面对有不同防护措施的行人或摩托车、甚至面对众多穿过马路的小孩，自动驾驶汽车应当如何抉择。此外，他还讨论了未来可能的交通事故之外的更广泛的伦理问题，比如：如果一辆公共的自动驾驶汽车，其是否涉及类似的道德困境?自动驾驶汽车的发展是否会进一步纵容酒驾等不道德甚至违法行为?自动驾驶汽车的计算系统一旦被黑客攻page13击，其驾驶行为所产生的任何偏差应由谁承担责任?[2]

　　SvenNyholm与JillesSmids对此提出了反对意见，他们认为自动驾驶汽车所面临的道德困境并不同于“电车难题”。前者是一种切实可能发生的场景，我们必须对未来的汽车算法提供抉择依据。由此，他们详细对比了自动驾驶汽车的“事故算法”与电车难题的差别：前者涉及到制造商、车主、监管部门等多个利益主体共同决定如何设计“事故算法”，而后者只涉及个体的道德抉择，并且前者的道德决策将直接担负事故的道德责任和法律责任;前者是一种对未来可能事件的预先设计或者说应急计划，而后者是一种当下选择;在认知情境方面，前者是在高度不确定性下的风险评估和决策，后者面对的是确定的并且已知的事实;而在道德原则方面，后者只涉及是撞向多数还是少数(或强者还是弱者)，而前者则涉及到要牺牲车主还是行人，这就不再只是义务论与功利主义的冲突，还包含了人的自我保护以及自动驾驶汽车对车主的责任问题。[3]SvenNyholm与JillesSmids通过反思大量新闻报告和部分研究中将自动驾驶汽车的道德困难与“电车难题”类比的事实，刻画出了自动驾驶汽车在未来的可能事故中涉及的道德决策的复杂性、道德和法律责任的模糊、以及道德原则的相互冲突问题。

　　三、法律责任问题

　　如果自动驾驶汽车在公共道路上致人伤亡、致财产毁损，法律责任应如何分担?2016年5月，一辆特斯拉电动车在美国佛罗里达州以自动驾驶模式行驶时与一辆横穿公路的货车相撞，导致电动车主丧生。这是世界范围内曝光的首例自动驾驶功能的交通死亡事故。经过长期调查，2017年1月美国公路交通安全管理局(NHTSA)公布了调查报告，结果显示事故原因与特斯拉的自动驾驶系统无关，这也意味着特斯拉公司无需承担相应法律责任。这起事件已经显示出了自动驾驶汽车所引发交通事故的法律责任界定的困难。完全自动驾驶汽车实现商用后，一旦发生交通事故，势必挑战现行的法律法规，其中包含了设计、制造、用户的多重法律关系。

　　德国学者AlexanderHevelke等指出，即使自动驾驶汽车只能减少部分道路交通的伤亡，政府也有义务推动其发展，然而一旦完全无人驾驶汽车上路，就必须明确谁对可能产生的交通事故负有责任。文章分别讨论了制造商和车主应该担负的事故责任：对于汽车制造商而言，自动驾驶汽车能够有效拯救生命就足以减少他们对车辆的事故风险所承担的责任，当然其前提是制造商不能知道“明确”的安全隐患存在而将自动驾驶汽车推向市场;对于车主而言，如果车主没有能力及时接管自动驾驶汽车，page14那么其造成的事故车主应不承担全部责任。[6]这篇文章虽然给出了事故责任的明确观点及其道德理由，但似乎并无助于自动驾驶汽车事故风险的责任分配，政府监管部门、制造商、车主、驾驶人及行人等主体究竟应分别承担怎样的责任仍有待进一步讨论。

　　四、监管政策问题

　　自动驾驶汽车的上路，将挑战现行交通管理体制，包括了驾驶证制度、汽车保险体制、处罚制度等。为此，2016年3月联合国重新修订了《维也纳道路交通公约》，允许自动驾驶技术运用于交通运输中，为自动驾驶的商业化应用清除了障碍。2016年9月20日美国交通运输部(DOT)公布了全球首个自动驾驶汽车政策文件《联邦自动驾驶汽车政策》(FederalAutomatedVehiclesPolicy)，用以全面规制自动驾驶汽车的应用。然而，由于自动驾驶汽车对现行体制挑战的复杂性，包括我国在内的大多数国家尚未提出相关监管政策。

　　在政府监管方面，部分研究者已经分析了自动驾驶汽车对现行监管体制的挑战：MilosMladenovic等提出自动驾驶汽车的大规模应用将彻底改变交通控制技术，而技术的变革将带来安全性、可持续性、隐私保护和效率等方面的重大改变，文章分别解释了自动驾驶汽车在这几个方面对传统交通控制技术的挑战，并进一步描述了未来处理这些问题的可能视角：一方面要在车辆间维持一个合作的分层级自组织性，另一方面是根据page15自动驾驶汽车使用者的信用层级提供一个可供优先选择的网络系统。[16]SaeedBagloee等认为自动驾驶汽车与现有交通体系的融合关键在于与道路基础设施的连接以及与非自动汽车的融合问题。文章提出其连接的关键在于汽车导航系统和大数据技术的运用，从自动驾驶汽车与基础设施相结合的角度出发，考察了道路容量、交通拥堵、自动化程度等维度，提出了一个自动驾驶汽车的导航模型(anavigationmodelfortheAV)，希望帮page15助交通管理部门制定新的交通管理政策。[17]AlanEastman提出自动驾驶汽车新技术的涌现，将首先对其中的“驾驶人”提出挑战，有调查已经显示现在的汽车用户几乎完全不了解运用在新一代汽车中的人工智能系统，尽管其具有良好的安全行驶记录，但是乘客及行人对于安全的需求却远远超过设计者的预想，即使技术已经较为成熟，但要人类信任自行转动的方向盘是极为艰难的，因此文章提出政府部门应首先推出新的驾page15驶人培训乃至新的驾驶执照制度。[18]PeterWagner则针对自动驾驶汽车对交通效率的改变进行了一项细致的研究，聚焦于自动驾驶汽车完全上路后对现行交通信号灯系统的影响，设置了一系列假想场景，提出如果设计出完全符合自动驾驶汽车特性的交通信号灯体系将极大的提高道路page15通行效率，当然这还涉及到开辟自动驾驶汽车的专用道路。

　　五、结论

　　以上对自动驾驶汽车ELSI研究评述显示：

　　关于伦理规范问题，当前研究主要聚焦于自动驾驶汽车可能引发的交通事故中的道德决策，其中涉及到了道德决策过程本身的多主体参与、场景复杂性以及预先“设定死亡”等问题，而道德决策背后则关系到如何设定道德算法的问题。实际上，我们不能确定机器通过“深度学习”而培养的道德决策能力是否优于人类为其预设道德算法，就其本质而言，鉴于交通事故场景的无限性，预设道德算法和机器自主道德决策都要求自动驾驶汽车根据具体环境信息进行决策，差别仅是自主性的强弱，当然更重要的差别在于一条确定的预设的道德原则将便于事后追责，这就涉及到了自动驾驶汽车相关事故的立法问题。

　　关于法律责任问题，随着完全自动驾驶汽车的商业化，在现有的法律规范下，这一新兴交通方式将对驾驶制度、个人隐私权以及交通事故的法律责任承担等方面提出挑战。现有的少数学术研究集中关注于可能交通事故的法律责任分配问题：一旦自动驾驶汽车发生交通事故，与其相关的汽车制造商、乘客、行人、监管部门乃至汽车自身，谁应当承担责任以及分别应当承担怎样的责任。然而，现有相关的理论或实证研究所得的责任分配结论仍然莫衷一是，并且现实生活中仅有特斯拉所引发的死亡事故这一个判定案例，各国相关立法过程也还在酝酿阶段。因此，对于自动驾驶汽车的道德和法律责任，制定明确的伦理规则和法律还远不够，解决问题的第一步或许是发起一场对自动驾驶汽车事故责任问题的公开讨论，让参与各方认清问题所在。