人工智能犯错，谁负责?

　　人工智能概念自1956年“达特茅斯会议”首次正式提出，历经起步发展期、反思发展期、应用发展期、低迷发展期、稳步发展期和蓬勃发展期，人工智能技术迅猛发展，让人们看到了科技对于生活的改造，如：餐饮服务机器人、医疗机器人、无人驾驶汽车等等。但随之而来且无法规避的一个问题是：当人工智能犯错，谁该负责?

　　案例回顾

　　2018年3月18日晚十点左右，美国亚利桑那州一名女子被Uber一辆处于上路测试阶段的自动驾驶汽车撞伤，之后不幸身亡。这是全球首例自动驾驶车辆导致行人死亡的事故。事发时，尽管有一名司机坐在方向盘后面，但是这辆车当时正处于自动控制模式。

　　自然人具备法律主体资格，法人具备法律主体资格，机器“人”是否具备?如果不具备，如上述事故导致的法律责任应该如何承担?

　　探讨

　　众所周知，当前人工智能无论如何先进，最终都是机器做出决策。面对各种复杂的意外情况，提前把所有的可能性都输入(机器学习)，只要它的“大脑”学习过就可以应对，类似于欧美法系中的“判例法”。但现实生活中的意外情形不可能穷尽，加之机器卡顿、系统延迟、感应器失灵等等，人工智能犯错注定无法规避。

　　回归上述案例，谁该为此次事故造成的损失负责?自动驾驶汽车?车内方向盘后的“司机”?被撞身亡的行人?还是汽车制造者Uber?

　　当前普遍认为应该由Uber承担相应责任，笔者附议。基于中国法律法规分析如下：

　　第一，从案例回顾看，无证据显示受害方在事故发生时存有过错，也未见任何法定需基于“无过错责任”承担责任的情形，依据《中华人民共和国侵权责任法》，受害方无需承担本起事故造成的损失，反而其亲属可向致害方依法主张赔偿。

　　第二，车内“司机”虽然坐在方向盘后面，但未实际驾驶车辆，对事故发生无过错，且无法定需基于“无过错责任”承担责任的情形，无需承担法定责任。

　　第三，无人驾驶汽车是一种通过电脑系统替代人类进行驾驶操作的智能汽车，又叫轮式移动机器人。然现行所有法律法规未明确机器人具备法律主体资格，其不可能承担任何法律责任。所以说John Frank Weaver在《机器人也是人》中写到，如果我们希望让机器人为我们做更多的事情，那么我们可能就需要赋予他们法律主体资格。

　　第四，驱动汽车的算法、感应器以及所有控制系统，均是Uber设计和研制，无论是哪一环节的问题导致本起事故，通常情况下都可以理解为产品缺陷，根据侵权法第四十一条“因产品存在缺陷造成他人损害的，生产者应当承担侵权责任”之规定，Uber公司应承担相应的法律责任。

　　建议

　　可以预判在未来非常长的时间内，人工智能不可能规避犯错。建议相关职能部门能够出具标准、规范或指导意见等等，进而缓和前沿科技的迅猛发展与立法步伐的滞后之间的问题。

　　(作者单位：章小兵，德联易控科技(北京)有限公司;王晓楠，中意财产保险有限公司)

　　链接

　　自动驾驶的级别划分

　　L0级自动驾驶：无自动

　　油门、刹车、方向盘全程皆由驾驶者掌控，它是最普通的驾驶方式，包括定速巡航，只能设定固定的速度，车辆不会自动调整速度，如加速/减速或驾驶员的操作需要。

　　L1级自动驾驶：驾驶操控为主，系统适时辅助

　　主要还是由驾驶者操控车辆，但在特定的时候系统会介入，如ESP电子车身稳定系统或ABS防锁死刹车系统，主要用于提高行车安全性。

　　L2级自动驾驶：部分自动化，驾驶者仍需专心于路况

　　第二级自动驾驶可说是目前各大车厂的主流，如果第一级自动驾驶仪是辅助油门和刹车的话，第二级是添加到方向盘，如特斯拉自动驾驶仪，沃尔沃飞行员协助，梅赛德斯-奔驰驱动试验等，车辆的速度和转向可以在一定的条件下控制。

　　L3级自动驾驶仪：有条件自动控制，该系统可自动控制车辆在大多数路况下，驾驶注意力不需专注于路况

　　相较于第二级还是需要驾驶专注于路况且双手须置于方向盘，第三级自动驾驶仪可以在一定条件下分散注意力，而不关注路况，双手甚至可以离开方向盘。

　　L4级自动驾驶：高度自动化，还是具有方向盘等界面提供驾驶适时操控

　　车辆在启动自动驾驶后，计算机将在目的地设置后按自己的路线行驶，无需干预全面驾驶，但只需在高速公路或市区等特定区域进行干预，但它已经能够处理大部分的“动态驱动任务”。在第四级自动驾驶仪阶段后，仍处于研发阶段，市场上没有第四种自动驾驶技术的汽车。

　　L5级自动驾驶：全自动化，人类完全成为乘客

　　第五级自动驾驶车辆将完全自动化，车上甚至连方向盘等驾驶机构都不需要，完全透过电脑感知与运算来驾驶车辆，不论任何环境、路况，都不需要人类驾驶介入操控。

　　(根据资料整理)

　　“放手”带不来从容

　　王薇

　　虽然现阶段的L2级辅助驾驶并不那么可靠，但并不妨碍汽车厂家在宣传上的投入，甚至出现“有一种从容叫放手”这样明显违反现阶段汽车驾驶安全规范的广告语。由于车厂在宣传时的有意无意，让一部分驾驶者认为“开着(特斯拉)AP节省精力”“开着AP可以回微信”甚至是“开着AP可以睡一觉”。但车厂在宣传上可以越界，在需要负法律责任的使用说明上就不同了，特斯拉AP对驾驶员的要求是：开启期间，你必须要时刻关注路况，同时你的双手必须放在方向盘上。“这既是特斯拉AP的官方使用说明，同时又是免责条款”。但有多少人认真阅读并严格按照说明操作呢?

　　这就是问题了。现阶段的L2级辅助驾驶，完全像一个第一天上路的新手，对道路上的复杂情况基本处于无所适从的试探阶段。

　　今年8月，在重庆举办的中国国际智能产业博览会上，2019 i-VISTA“中国电信5G杯”自动驾驶汽车挑战赛吸引了大量关注度。挑战赛共包括四大赛项，包括ADAS驾驶辅助系统挑战赛，自动驾驶城市交通场景挑战赛，自动驾驶创新应用挑战赛，自动驾驶商业化进程挑战赛。AEB挑战赛设置目标车静止(又称故障车避撞)、行人横穿(又称行人鬼探头)两个场景，每个场景设置3个工况：车速30 km/h、40 km/h、50 km/h，APS挑战赛设置垂直车位、平行车位、斜向车位三个比赛场景，参赛车辆需完成车位自动搜索并泊车入位。参赛的智能汽车涵盖了主流品牌车型，其中既有特斯拉Model X、奔驰E200、宝马530Li、沃尔沃S90、丰田凯美瑞、大众CC等进口及合资品牌车型，也有红旗H5、魏派VV6、吉利博越、长安CS95等自主品牌车型，还包括小鹏G3等造车新势力品牌车型。AEB故障车避撞场景，专业车组和个人车组所表现出的普遍问题是，30km/h、40km/h工况下AEB功能正常触发率比较高，而且国产车型在这两个工况下，表现得非常优秀。但是50km/h工况下，大部分车型的AEB功能不能触发，个人组29款车型中，只有丰田凯美瑞2019款2.0 G豪华版、沃尔沃V60智雅两款车型的AEB功能正常触发。专业组和个人组在AEB故障车避撞比赛中的前10名，参加AEB行人鬼探头场景的比赛。但是除了专业组一个车队在30km/h工况下成功刹停，其他全部折戟。

　　此次挑战赛的结果，明确告诉驾驶者，即便开启辅助驾驶功能，也仍然要保持专注，甚至可能要付出比主动驾驶更多的精力，以便随时接管车辆。那些认为开启辅助驾驶功能就可高枕无忧的想法，无疑会将汽车变成道路上的一颗定时炸弹。