IJCAI 2019 微众银行领衔“AI与用户隐私”圆桌会

随着人工智能的不断发展与落地，用户隐私问题越来越受社会各界的重视。此前，也曾出现人工智能大数据公司因为违反相关法规而被罚巨额罚款。但是人工智能，尤其是以深度学习为代表的机器学习技术，并没有特别研究对应的措施。

8月10日-16日，第28届国际人工智能联合会议(IJCAI 2019)在中国澳门如期召开。为解决与推动上述用户隐私困境，IJCAI 2019大会期间专门举办了“AI与用户隐私”重磅圆桌会，微众银行首席人工智能官、IJCAI 2019理事会主席、中国香港科技大学讲席教授杨强和IEEE 法律法规委员会主席Victoria Wang及各大高校、国际知名金融和科技企业等研究者一同进行探讨。

AI加速落地 用户隐私与数据安全问题箭在弦上

IJCAI是人工智能领域最顶级的国际学术会议之一，今年又恰逢 IJCAI 的 50 周年。作为学界和业界最为关注的盛会，今年IJCAI的圆桌会数量达到5个之多，史无前例。之所以出现这一盛况，是因为现在的AI研究更关注的是其与社会的深层次聚合。圆桌会正是提供了这样一个平台，让参会者从不同的维度去了解并反思AI自身以及在与社会深层次聚合过程中所出现的问题，从而在未来的AI研究工作中去更好地适应社会的需求。

而这其中，由杨强教授主持的“AI与用户隐私”圆桌尤受关注。圆桌邀请到了IEEE法律法规委员会的主席Victoria Wang、华盛顿大学教授和对冲基金巨头D. E. Shaw机器学习团队董事总经理兼负责人Pedro Domingos、欧洲著名金融保险行业专家和Swiss Re Institute负责人Jeffrey Bohn、微众银行AI部门高级研究员刘洋等业内众多专家学者一同探讨，为平衡AI发展与用户隐私问题建言献策。这些专家在AI与大数据、用户隐私等领域深耕已久。

杨强教授在圆桌会中提出了当今各行业在处理数据、实现AI落地需要共同面对的多个问题：隐私保护法规对于AI的发展与落地而言是机遇还是挑战？像《通用数据保护条例》(GDPR)这样的法规是否值得其它国家效仿？更强大的数据保护法规是否会减缓AI的发展速度？在分享数据的同时我们应遵守哪些道德原则？在多重挑战之下，我们如何利用AI促进数据经济的增长？围绕这些议题，与会的众多学者展开了深入讨论。

华盛顿大学教授和对冲基金巨头D. E. Shaw机器学习团队董事总经理兼负责人 Pedro Domingos提出，在GDPR等隐私保护条款实施的前提下，数据处理与隐私保护并不是一场“零和博弈”，二者的关系需要被正确对待，以实现双赢的局面。Pedro Domingos认为，企业在处理数据的时候，不要被数据的力量冲昏了头脑，需要重点考虑用户的知情权，承担起相应的社会责任。

联邦学习提供新思路 解决数据孤岛与用户隐私双重难题

面对AI应用中出现的“数据孤岛”和用户隐私难题，杨强教授表示：“我们认为联邦学习是解决这两个核心问题的同一个解决思路。联邦学习的作用就在于能够将很多小数据汇聚在一起变成大数据，所以它的价值和影响主要是在隐私保护下汇聚和挖掘数据的价值。”

为了让与会者更加深入了解联邦学习，微众银行AI部高级研究员刘洋在会上详细介绍了联邦学习技术，并分享了微众银行AI团队推广联邦学习这一新兴技术的发展历程。今年1月，微众银行AI团队在AAAI会议上发布了联邦学习开源框架FATE0.1版本，并在此后领衔推动联邦学习国际标准的建立，牵头国内首个联邦学习标准出台。而在8月12日，微众银行AI团队在IJCAI 2019期间主导举办了首个国际联邦学习学术研讨会，为联邦学习的研究者们提供交流探讨的机会。

目前，联邦学习已经成功应用于多个行业的业务板块，具有广泛的发展前景。刘洋提到，今年5月，微众银行与瑞士再保险签订了战略合作协议，推动了联邦学习在再保险业的应用。除此之外，联邦学习在助力城市管理、建立智慧城市等方面也起到了重要的推动作用。

经过与会专家的圆桌讨论，大家一致认可：新一代的机器学习算法框架，必须以保护隐私、安全合规为出发点，用透明的机制来保障人工智能的健康发展，而联邦学习的发展为业界提供了新的思路。

未来，AI与用户隐私的平衡问题会持续伴随AI的发展。我们期待学界和业界联合起来，一同应对数据孤岛和用户隐私问题，共同促进AI生态的繁荣。