所以，自动驾驶汽车到底安不安全？

随着AI 技术的飞速发展， 自动驾驶汽车已经成为目前最炙手可热的细分领域。越来越多的科技巨头相继发布了自家的自动驾驶产品，比如特斯拉的自动驾驶仪（Telsla Autopilot）、英伟达DAVE-2、百度Apollo2.0等等。同时，越来越多的传统汽车制造商也开始加入自动驾驶汽车的研发大军。

但近日，自动驾驶汽车屡屡发生意外。先是上个月旧金山一辆Cruise Automation公司的自动驾驶汽车与摩托车相撞发生事故，后有在近日发生的自动驾驶特斯拉Model S追尾消防车的意外。在自动驾驶成为风口的同时，其安全性问题也成为发展中争议的焦点。在自动驾驶系统引发致命车祸和各项研究报告指出一些自动驾驶系统的漏洞之后，外界对自动驾驶安全的质疑不断加剧，安全问题成为了自动驾驶发展和推广中必须要克服的障碍。

自动驾驶汽车的安全问题主要是由于AI 系统中存在的漏洞造成的，想要检测自动驾驶中的漏洞对汽车生产商来说是非常困难的，这主要归咎于自动驾驶的实现原理——机器学习。不同于日常的基于需求进行的软件开发，自动驾驶系统通过机器学习算法对汽车摄像头拍下的路况照片进行分析，它可以利用收集的图例建立数学模型来处理特定的任务。举个例子，工程师事先提供一些“是人行横道”和“不是人行横道” 的图例给系统，算法会解析这些图片，从图片中找到唯一的特性来建立一个模型。当下次系统分析路况图片时便会通过这个模型判断哪张图片里面有人行横道。

当然自动驾驶系统不仅仅是识别人行横道那么简单，它包含了路网模型、路径规划算法和交通信息的智能预测等一系列复杂的任务，所以现在的自动驾驶系统更倾向于通过建立神经网络来实现机器学习，这也意味着其中包含了庞大数量的上述数学模型，而这些模型像黑盒一样里面只有数据，无法确切得知系统正在学习什么。这也成为了自动驾驶系统漏洞检测中的难点之一，比方说，在让系统学习避让行人的任务中，工程师很难判断系统是识别了行人的四肢还是行人的衣服。

至今，检测自动驾驶系统的神经网络漏洞的方法只有随机方法， 其中一种随机测试方法就是研究员为系统神经网络手动创建测试图片直到系统做出错误判断，另一种叫做对抗测试的随机方法是针对一张特定图片，自动创建一系列在其基础上做过细微调整的图片直到神经网络出错为止。

一般来说，技术人员在海量的训练数据中标出正确答案帮助AI进步，配合随机漏洞检测方法，可以保证系统的机器学习算法准确度稳定在90%左右，这样的准确率对于大部分AI系统来说是可以接受的，毕竟像语音机器人错误地识别了用户的一句指令或者是脸部识别偶尔失败并不会造成太大影响，并且系统的学习能力也可以在下次的识别中进行更正。但是对于自动驾驶来说， AI由于系统漏洞做出的一个错误的决定都可能会带来无法挽回的严重后果。这是有前车之鉴的，在16年5月，一辆开启了自动驾驶模式的特斯拉Model S电动汽车在一个没有安装红绿灯的高速十字路口与一辆左转的大型牵挂型卡车相撞，导致车主当场死亡，事故的原因就是由于当时的特斯拉AI系统无法在强光下辨别白色物体，而特斯拉的工程师并没有检测出这一漏洞。

很显然，随机测试方法无法覆盖所有会导致系统算法出错的情况。在自动驾驶漏洞检测方面需要新的方法来完善自动驾驶AI 系统的安全问题，由哥伦比亚大学和里海大学共同研发的DeepXplore，为自动驾驶漏洞检测带来了新的思路——深度学习算法，通俗的说就是用AI 检测AI，它的原理是通过对至少三套神经网络任务处理结果的对比，找到其中有差异结果的神经网络进行更正这种方法大大的提升了漏洞检测的能力，DeepXplore小组也通过此方法发现了英伟达DAVE-2在光线不足的特定路段出现转向判断错误的漏洞（如下图所示）。不仅如此，DeepXplore方法对15个顶级神经网络的检测结果显示出数千个新发现的漏洞，可见深度学习算法在漏洞检测上比随机测试法先进了不少。

▲IEEE SPECTRUM

而近日日本政府正在谋划一个政策，即要求在自动驾驶汽车中安装一种类似于飞机“黑匣子”的监控系统，以便在发生交通事故之后调查原因，确定各方的责任。而“黑匣子”所提供的数据，也将提供给汽车制造商，以便进一步完善自动驾驶软件和硬件。

就目前而言，想让AI自动驾驶系统明确达到一定的安全等级，还有很长一段路要走，不过随着像DeepXplore这样先进的漏洞检测方法日渐成熟，自动驾驶系统漏洞被有效解决之后，安全问题将不再会是自动驾驶技术发展的阻碍，反而会成为其优势。

毕竟自动驾驶研发的初衷之一，就是减少驾驶中的人为失误，从而使驾驶变得更安全。

*本文头图和正文图片均来源于网络。

没有了“老司机”，你还敢不敢上车？

Delta