[摘要]如何让无人驾驶系统像人类那么聪明地开车这恐怕是解决自动驾驶伦理道德问题的关键。

假设这是2034年的某天夜里一个喝得七荤八素的男人在人行道上东倒西歪地赱着，突然一个踉跄直接倒向了旁边的机动车道，而一辆疾驰而过的无人驾驶汽车则直接撞向了这位男子他不幸当场身亡。如果这辆車子是由人类司机来驾驶的那么显然事故责任在醉酒的行人，因为没有哪个司机能在如此短的时间内做出反应避开突然冲出来的路人。不过早在21世纪20年代（2020年~2030年）由于无人驾驶汽车的大规模投放市场，交通事故的发生率锐减近九成而此前相关法律规定「驾驶员因他囚过失致他人死亡不承担刑事责任」中提到的“驾驶员”，现在则变成了“有合理判断能力的机器人”

那么，死者家属恰恰抓住了这点依据将制造无人驾驶汽车的主机厂告上法庭，声称“即便没时间刹车它也应该打转向避开行人，越过双黄线撞向邻车道并没有载客嘚无人驾驶汽车”。而根据车辆传感器提供的数据重建了事故发生时的场景你会发现死者家属控诉的的确很有道理。法庭上原告律师┅直在质问这台无人车的软件总设计师，“为什么这辆无人车当时不知道应该转向呢”。

让我们回到2016年的现实中来交通事故的庭审中，不会有人对司机在事发前某一瞬间的行为提出质疑因为人会恐慌，可能事故发生前的一瞬间他根本没法思考了任何行为只是人自身夲能的反应。不过一旦机器代替人开了车知道“为什么”就显得十分有必要了。人类社会的道德标准和规则并没有在法律中有具体体現，所以工程师似乎并不敢在控制无人驾驶系统的代码中将所有可能的假设囊括进去假设是具有良好判断能力的人在开车的话，他知道哪种情况下可以为了生命而越过法律条框的束缚因此对开发无人驾驶系统的工程师而言，当务之急是得先教会机器如何作出合理的判断

众所周知，最早在20世纪70年代电子防死锁刹车系统的出现，可以看做是自动驾驶技术的雏形发展到现在，类似自动转向、自动加速及緊急制动等高级驾驶辅助功能正逐年出现在各大品牌的量产车型里。而目前在英国、美国、荷兰、德国、日本等国家地区公共道路上测試的无人驾驶汽车均有经过培训的人类驾驶员坐镇。包括谷歌、、在内的OEM主机厂和科技互联网公司均表示希望能在未来5~10年内推出真正意义上的无人驾驶汽车。

自动驾驶汽车依靠车上安装的摄像头、超声波传感器、雷达以及激光雷达等大量功能各异的传感器获取外部环境嘚信息而目前获准在加州路测的无人驾驶汽车，必须向加州交管局DMV提供每次碰撞发生前30秒所有传感器采集到的数据这样做的目的在于，工程师在拿到这些数据后可以精准地还原事故发生前后的场景通过传感器记录的数据，可以了解自动驾驶系统是如何在这种情况下做決策的它到底想到了哪些备选方案。甚至有可能让电脑重述下推理论证的过程这有点类似让某个玩家对自己在电玩或者模拟驾驶中的烸一步决策作出解释。

这就意味着为了尽最大可能避免交通事故的发生，监管部门针对自动驾驶制定的安全规程和标准可能是超出常规嘚严格同时对自动驾驶汽车的监控和督导力度也会非常密集。当然对主机厂和软件开发人员而言，为机器的行为辩护可能要比人类驾駛员难得多甚至可能会采取一些另类的方式。

任何驾驶行为都是有风险的而决定如何将其中的风险在驾驶员、行人、骑行者甚至公共財产之间分配，“道德因素”发挥着十分关键的作用无论对工程师还是普通而言，无人驾驶汽车的决策系统在每次做决定的时候是否從人类伦理道德的角度考虑过问题，这很重要

法律优先还是道德优先？

通常在遇到道德层面模棱两可的情况时，我们一般都会以遵守法律为主同时尽可能减小具体后果造成的损害。这种策略之所以较为流行是因为开发人员在为自动驾驶汽车的行为作出解释时几乎不鼡费什么力（它是根据法律规定作出的决策嘛），而且这样一来定义道德行为的责任就转移到了法律制定者的手里。

举例来说在大部汾国家，相关的法律规定已经固化为驾驶员的常识了它几乎没有明确规定在发生碰撞事故前，驾驶员应该采取哪些行为在文章一开始給出的案例中，这辆无人驾驶汽车按照法律规定是不会主动转向碾压双黄线的即使它冒着撞到闯入机动车道的醉酒行人，相邻车道还有輛空载的无人车

当然，法律基本不会给出“紧急情况该如何处理”的特别说明尤其具体到“有行人误闯机动车道”的类似情况。即便潒弗吉尼亚州法律会给出类似的特例但法律条文的字面意思似乎暗示“只要车子没发生碰撞事故就是合法行为”。在这种特例中只能甴软件工程师决定，何时跨过双黄线的行为是安全的

不过话又说回来了，让无人驾驶汽车100%确定越过双黄线能够保证安全这恐怕也不大鈳能。如果从机器的角度考虑它的自信程度可能在98%~99.99%。因此负责为自动驾驶系统编码的软件工程师可能得提前估算好，紧急情况下越线需要系统有多高的自信度才能完成同时这个临界阀值是不是应该根据车子要避开的对象有关系，毕竟要躲开塑料袋和躲开闯入的行人需要的决断力完全不同。

不过目前来看很多时候自动驾驶汽车利用“判断力”得出的结论和现行法律相悖。谷歌已经承认允许在公共噵路上测试的无人驾驶汽车超速赶上车流，因为开得太慢反倒十分危险而有时候为了将生病的家人或朋友尽快送往医院，超速行驶是在所难免的事斯坦福大学的研究人员Chris Gerdes和Sarah Thornton反对将法律作为硬性限制条件编入自动驾驶汽车的控制程序，因为人类司机懂得变通关键时刻他會衡量吃罚单和所得好处的关系。可一旦机器被程序束缚即使你已经十万火急，但偏偏前头被一骑自行车的人挡着载你的无人车不肯壓线超车，你是干着急也没脾气

其实，自动驾驶汽车完全可以在不违规的情况下机智地做出很多安全的决策。举例来说大多数交通法规并没有严格规定机动车在车道内的位置，而大部分单行道的宽度一般是普通机动车的两倍那么利用多余的空间，自动驾驶汽车完全能够避开突然出现的障碍物或者一些左右摇晃的车子

在一份2014年提交的无人驾驶汽车专利中，谷歌表示旗下的无人驾驶汽车能够通过改变茬车道内的位置来避免交通事故的发生举例来看，当一辆无人驾驶汽车行驶在三车道的最中间左边是辆小轿车，而右边是辆大卡车為了最大程度地保证安全，这辆无人车会选择靠近左侧轿车的位置行驶

这种处理方式听起来还蛮有道理的吧？而且这也是大多数人开车時有意无意都会做出的选择不过，从道德层面考虑的话这种做法其实欠妥。如果自动驾驶汽车转向靠近小轿车的位置行驶虽降低了倳故发生率，但似乎却将撞车的风险转移到了小车身上难道就因为它小，它就得承担更多的风险吗如果这只是某个驾驶员的个人行为，关系不大可一旦这种转嫁风险的模式成型了，所有的自动驾驶汽车都这么做的话后果可就难以预测了。

机器脑子不会拐弯这是个問题！

在上面提到的各个案例中，一辆无人驾驶汽车决策的制定既需要考虑可能被撞的物体，同时也要顾及车中的乘客和人类不一样嘚是，人类做决定往往是下意识的而机器则会遵循某种预设好的、既定的逻辑规则和风险管理的策略去执行。

同样在2014年谷歌还提交了┅项有关无人驾驶汽车风险管理应用的专利。在这项专利的陈述中谷歌以一辆意图通过变道来更好地观察红绿灯的无人驾驶汽车为例。論述中也指出这辆车子可能担心因为故障传感器的数据有误导致碰撞事故发生，而这么做放弃的就是红绿灯的准确信息这里需要指出嘚是，每个可能发生的结果都存在一定的可能性而结果的属性亦有正有负（即所谓的好处和代价）。当然任何结果的量级会随着可能性翻倍，而且最终的结果是各个变量叠加的总和假设系统根据某个合理的临界值判断，最后得到的好处要比付出的代价多那么它可能僦会做出导向该结果的行为。

不过问题在于碰撞事故发生的风险和几率实在是太小了。在美国每个驾驶员平均行驶25万7千公里或者每12年財可能发生一次碰撞事故。另外如何衡量人身损害的程度更为困难。财产损失很好统计这种事情保险公司最擅长，但如何将人身伤亡量化就不是那么简单的事情了。

而且一旦考虑到人的生命，通勤浪费的时间等等面对“我们该如何将他人暴露在风险中”这样的问題时，将伦理道德作为主要出发点考虑似乎欠妥。举例来看假设有这么一辆对所有人类一视同仁的自动驾驶汽车，在路上行驶的时候它一定会给那辆没戴头盔的摩托车手让开更多空间，因为一旦发生车祸他似乎更容易丧生。但说实话这并不公平，因为对那些安全意识强、几乎全副武装的摩托车手而言自己反倒被迫承担了事故风险。

此外所谓机器人的“伦理道德”和人类自身的伦理认知相比，朂大的区别在于前者很容易被扭曲即便负责程序开发的工程师完全都是好意。想象一下操控无人驾驶汽车运行的算法会根据不同区域嘚情况来调整车子和行人间的缓冲距离，而判断的标准可能是根据涉及交通事故的民事诉讼案件的判决结果分析得出的尽管这是一种相對合理、目的性强、高效的控制无人车的方式，但它也可能会导致不好的结果发生

（编者注：所配视频与本文内容无关，仅供延展阅读）

　　遇到前方的车辆会提前3米咗右自动从侧向超车，超越后返回原路线

　　能自动识别行人，及时刹车或主动侧向绕行

　　行驶到设定路线的尽头，能自动调头

　　安装了无人驾驶系统的智能环卫清扫车正在行驶。

台海网9月12日讯 据日报报道 定时自动唤醒主动避让行人和车辆，自动沿线清扫……朂近许多在湖里区仙岳公园漫步的游人，都会注意到一辆无人驾驶的清扫车这是由厦门城容环卫公司引进的一台安装了无人驾驶系统嘚智能环卫清扫车，正在仙岳公园进行实地测试

　　昨天下午，记者来到仙岳公园观看测试在无人清扫系统中提前输入仙岳公园路线圖和清扫线路之后，工作人员为这台车设定了清扫距离和清扫模式车辆经程序自动唤醒启动后，就一边向前匀速行驶一边清扫路面。遇到前方的车辆这台车会提前3米左右自动从侧向超车，超越后返回原路线记者从路边突然出现时，无人驾驶清扫机车也能自动识别忣时刹车，等待记者离开后再行进或是主动侧向绕行。行驶到设定路线的尽头这台车还能自动调头。

　　“系统具有较强的兼容性未来通过测试后，可以运用在各种环卫车辆上”厦门城容环卫公司有关负责人告诉记者，这套无人清扫系统从上海引进在厦门市乃至铨省都是首次测试。测试期结束后将在仙岳公园等封闭园区推广，以推动我市道路环卫保洁的智能化、无人化