“ZAO”换脸软件刷屏，人工智能需小心数据“惹祸”

经济观察网 记者 王涵8月31日，一款名为“ZAO”的换脸软件在朋友圈刷屏，据了解ZAO使用AI技术，用户只需要一张正脸照，就可以替换为影视作品或者小视频中的人物，生成以自己为主角的视频片段。

但随后用户协议条款涉及隐私和数据安全引发争论。ZAO被网友质疑过度攫取用户授权，将肖像侵权风险转嫁用户。

随着数据安全和隐私保护成为人工智能系统在开发和应用过程中面临首要安全挑战，该如何兼顾数据安全和人工智能技术发展成为研究的难题。

8月30日，在2019年世界人工智能安全高端对话会上，上海市网络安全和信息化委员会办公室总工程师杨海军提出人工智能、5G等技术将推动新一轮革命，也带来新的治理挑战，必须全面认识人工智能安全问题，通过法律、政策、标准等综合施策引导人工智能安全发展。

当下，数据安全风险接踵而至。据会上观安信息联合赛博研究院共同发布《人工智能数据安全风险与治理》报告指出，分别为数据隐私问题、数据质量问题和数据保护问题。

数据隐私问题指在人工智能的开发、测试、运行过程中存在的隐私侵犯问题，这一类问题当前是人工智能应用需要解决的关键问题之一；数据质量问题主要指用于人工智能的训练数据集以及采集的现场数据潜在存在的质量问题，以及可能导致的后果，这是人工智能特有的一类数据安全问题；数据保护问题主要指人工智能开发及应用企业对持有数据的安全保护问题，涉及数据采集、传输、存储、使用、流转等全生命周期，以及人工智能开发和应用等各个环节。

观安信息CTO胡绍勇在接受经济观察网记者专访时表示：“随着人工智能的快速发展，相关数据安全事件的不断曝光虽然已经引发了各方的担忧和关切，也在法规、标准、技术层面提出了适用性的解决方案，但距离有效解决数据安全问题，仍存在较大差距。”

实际上，法规层面，法律存在盲点，例如针对训练数据集的质量问题，当前国内外都缺乏相应的法规予以规范。此外仍未推出《数据安全法》《个人信息保护法》等数据安全法规，而既有法规无法对人工智能中涉及的数据隐私问题予以全面、有效规制。

胡绍勇分析，“部分APP软件存在过度收集客户信息的现况。”企业在意识方面，由于人工智能相关技术发展处于早期阶段，且发展迅速，现在投入大量资源开展人工智能技术的开发和应用研究，但企业方面关注其中的数据安全问题还是存在巨大的进步空间，除非出现了相关的数据泄露事件或隐私争议性事件。

另外一方面，当前在全球范围内，无论是人工智能数据安全相关的通用标准，还是细分领域标准，都比较缺乏。《报告》显示，在技术层面，当前基于隐私的机器学习技术，以及针对各种恶意攻击的防御技术和数据保护技术都在快速发展，但仍不能解决全部问题。