自动驾驶汽车并不是设计用来杀人的

说到汽车技术，自动驾驶汽车都是风靡一时的。许多普通汽车的标准功能包括智能巡航控制，平行停车程序，甚至自动超车功能，这些功能尽管有点不安，但是能让你坐下来，让计算机自己驾驶。

不可避免的事故情况下，程序不同的选择

因此，许多汽车制造商开始考虑让汽车完全解放你的双手的做法并不令人惊讶（请参阅“ Drivers Push Tesla’s Autopilot Beyond Its Abilities ”）。这些车比他们的手动车更安全，更清洁，更省油。然而他们永远不可能完全安全。

这导致提出了一些困难的问题。在发生不可避免的事故的情况下，汽车应如何编程才能起作用？是否应该尽量减少生命损失，这意味着是选择牺牲乘客，还是应该不惜一切代价保护乘客？是否应该随机选择这两个极端？（另见“ How to Help Self-Driving Cars Make Ethical Decisions. ”）

这些道德问题的答案是重要的，因为它们可以对自动驾驶汽车被社会接受的方式产生重大影响。谁会买一辆车来牺牲车主？

科学技术能够提供帮助吗？今天，多亏了法国图卢兹经济学院Jean-Francois Bonnefon和几个好朋友的工作，我们得到了一个答案。这些人说，即使这些问题没有正确或错误的答案，公众舆论在自动驾驶汽车如何甚至是否会被广泛接受方面将发挥强有力的作用。

所以他们着手用实验伦理的新科学来得到公众的意见。这对于大部分人来说回答这个问题就陷入了道德困境。而且结果让人感兴趣，如果想知道点什么的话，就阅读下去吧。他们说：“只是我们第一次提供涉及道德算法对自主车辆所提出的棘手问题的研究结果。

这是困境的本质。想象一下，在不远的将来，你拥有一辆自驾车。有一天，当你开车的时候，一系列不幸的事件导致汽车朝着横过马路的十多人前进。它不能及时停止，但可以避免10人死亡而撞到墙上。然而，这次碰撞会让车主和乘客失望。那么程序应该怎么做呢？

解决这类问题的一种方法是以最大限度地减少生命损失的方式行事。通过这种思维方式，杀死一个人胜过杀害十个人。

但是这种做法可能会有其他的后果。如果仅仅因为车辆计划牺牲测互助导致购买自动驾驶汽车的人越来越少，那么由于普通汽车涉及更多的事故，更多的人可能死亡。结果是一个《第二十二条军规》的情况。

Bonnefon和co正在通过衡量公众舆论来寻求摆脱这个道德困境的方法。他们的想法是，公众更有可能支持符合的他们自己的观点的方案。

所以这些家伙在亚马逊的“土耳其机器人”上向几百名工人提出了这种道德上的难题，以便找出他们的想法。参与者被给予的情境是：如果汽车撞向障碍物，就可以拯救一个或多个行人，那么你的选择是杀害行人或者是乘客呢。

与此同时，研究人员对一些细节进行了改变，像是实际可获救行人的数量，司机或计算机是否做出转向决定，是否要求参与者想象自己是乘客或一个陌生的行人。

结果是有趣的，如果可以预测的话。总的来说，人们对自动驾驶汽车应该以尽量减少死亡人数的想法来进行编程感到满意。

这种急功近利的方法当然是值得赞赏的，但参与者只愿意到目前为止。Bonnefon和co说到。“（参与者）并不相信自动驾驶汽车将按照这种方式在现实中编程 - 有一个很好的理由：他们实际上希望其他人乘坐如此编程的自动驾驶汽车，而不是自己购买这样的自动驾驶汽车。”

其中就存在这个悖论。人们赞成那些牺牲乘客以挽救其他生命的汽车 - 只要他们不必自己驾驶一辆汽车。

Bonnefon和co很快指出，他们的工作代表了可能是一个极为复杂的道德迷宫的第一步。其他需要在未来考虑的问题的本质是不确定性的性质和责任的分配。

Bonnefon和co说，这些问题又引出了许多其他重要的问题：“考虑到乘客的车比骑手的摩托车生存的可能性更大的情况下，是否可以接受一个自动驾驶汽车避免碰撞摩托车而转弯撞上一堵墙？在孩子上车的时候，是否应该做出不同的决定，因为他们比成年人的时间更长。还有是否应该减少智能汽车代理的机构数量，如果一个制造商提供不同版本的道德算法，而买家故意选择其中一个，发生事故后，买方是否应该将责任归于这个算法的决定上呢？

这些问题不容忽视，这个小组说：“由于我们即将赋予数百万辆车自主权，我们从未如此紧迫的认真对待道德算法。“

仅供参考：arxiv.org/abs/1510.03346：自动驾驶车辆需要道德试验：你准备好了吗？