先见未来大会专区｜刘荔园：人工智能应用中面临的安全挑战

作者 | talk君

图片源于先见未来大会2020

今天talk君要跟大家分享来自一刻talks先见未来大会2020【大数据】专场嘉宾、瑞莱智慧Real AI联合创始人刘荔园的演讲，她分享了数据在传输过程中如何确保传输安全，以及传输后在数据处理计算过程中如何保证算法安全。

一刻讲者

刘荔园

瑞莱智慧Real AI联合创始人

“现有的人工智能的技术用到了深度学习，深度学习本身就是有结构性缺陷的”

#视频有删减，建议下载“一刻talks”app观看完整版

大家好，我是一刻的讲者刘荔园。三年前，我成为了RealAI的联合创始人，开始用第三代人工智能的技术去在产业界进行1-100的产业价值提升。今天的话，抛开人工智能不讲，我们其实是更多去关注人工智能技术在应用的过程中，在使用数据的过程中，可能面临的一些安全的挑战。

我们首先可以先看几个最近的一些安全的热点，可以看到最左侧跟最右侧的一个图，其实都是数据泄露带来的一些问题。那么中间的两个图的话，它可能并不是特别好理解，我跟大家可以详细的阐述一下。例如说我们最近用深度学习在自动驾驶领域，其实推进的进度还是相对来说比较快的，但是依旧我们会发现有很多自动驾驶撞到货车或是撞到人的情况发生。那么刚才另外一张图也显示了，比如说在座的各位，我可以给你们定制一个眼镜，然后你们就可以刷开我手机的人脸识别解锁，听起来这个逻辑稍微有点费解。

其实究其本质，它们的共同点就是，只要是我们现有的人工智能的技术用到了深度学习，深度学习本身就是有结构性缺陷的。那么其实在自动驾驶的领域，有可能它是主动或者是被动的出现这样的一个危险事件。例如说一些灰尘，或者说一片树叶飞到了我的路障牌上，那就有可能让自动驾驶的体系误判，会觉得这可能是一个让我加速的标志。

其实在人脸识别的领域也一样，我们可以把这个定向的噪声加到你的镜片上，可能看起来是一个比较fancy的镜片花纹。但是其实机器学习的算法就会认为，你可能就是我。

所以这个是我们现在推广人工智能的过程中，越来越多面临的一些安全的挑战。

那么其实总结上面的四张图，两个最大的安全的威胁，一个是数据传输过程中的传输安全，另外一点，就是我们把这个数据放在AI的大脑里头，我们的方法其实本质上是不可信的。

那么接下来的话，我会分传输的安全和算法的安全来逐个跟大家详细拆解一下。首先，我们可以看到左边的图，我们面临的是一个数据孤岛的世界。可以看到，比如说政务的数据和银行的数据，还有一些支付的数据，还有一些互联网的数据，它们都是分散在各处的。如果我想做一些业务驱动的大数据画像和一些业务决策的话，那么我必须把它们somehow合在一起，或者说somehow合在一起去做一个模型的决策，或者模型的一个输出。但是我们会发现，它合在一起的过程中，就会出现非常多的数据泄露的风险，或者数据传输跟计算中的风险。 

那么如何去构建这样一个高速公路？可以使得我们的数据还安好的放在它原有的物理地址上，但是可以完成我想要的运算、我想要的传输、我想要的模型结果的一个输出。那么这里这个高速公路，大家可以看到紫色的一个节点，其实就可以实现数据不出库，算法多跑路的这么一个效果。 

在搭建这么一个AI基础设施的过程中，我们其实管这样子的高速路叫隐私保护机器学习平台。那么清华人工智能研究院，在12月份有一个重磅的发布，也会把这个隐私保护机器学习平台realsecure重磅推出来，因为它其实是世界首款编译级的隐私保护机器学习平台，也即意味着未来我面临的各种各样子的算法场景或者是业务场景，都可以用现在做的这个AI基建，像乐高一样进行一个拼接，那么我就可以让它赋能在各行各业和各个需要算法的一个场景。

刚才其实说了大部分的传输安全的部分，现在就说到最神秘的，可能让大家觉得更匪夷所思的部分，就是算法的安全。

这两张图可以给大家解释一下，第一个的话，其实也是刚才说到的我定向去加噪声的一个案例，一些特别需要安全的场景，其实是通过人工智能的技术去进行识别，比如说是不是敌方一些有危险性的设备。那么其实我们可以定制一些迷彩，人工智能的识别算法就完全失效了，它就完全识别不出来这里有一个车，或者这里有一个帐篷。然后右边的话是我们跟客户合作的一个案例，可以看到其实现在大部分的场景都是会用人工智能去进行一些危险的噪声或者危险的物体识别，但是也可以加上一些，典型的人眼不可见的噪声，因为其实我们完全看不出来有什么差别，但是它就可以干扰模型的一个决策结果，大家觉得是一个很危险的东西存在，但是模型觉得很安全，没有任何异常的情况发生。

那么基于此的话，其实清华在2018年的时候，就已经推出了realsafe的安全攻防演练的对抗攻防的一个平台，它其实就可以把我们现有用到的深度学习的模型，或者说其它的人工智能相关的模型，放在我们的平台上去进行一个测试。

最后的话，我也说一点自己内心的感受，因为最近一段时间，我作为一个人工智能的从业者，其实内心是非常澎湃的，因为其实也目睹了人工智能在产业界落地的一个发展的进程，可以看到、明显的感受到当时在AlphaGo出来的时候，大家是多么的群情激奋，觉得可以改变世界。但是随着在人工智能进一步推广落地的过程中，其实有很多不及预期的地方。究其原因，我们看到原创的技术上其实是欠缺的，大部分的团队或者大部分的企业，如果用的都是别人已经开发好的程序，或者说所谓的调包档的话，那么其实我们该解决不了的问题还是解决不了。

下载"一刻talks"App

聚焦全球创意创新趋势，与最聪明的大脑一起进化

还有更多会员惊喜等你发现