设计社会意识算法与模型

与迈克尔·卡恩斯（Michael Kearns）的三个问题：设计具有社会意识的算法与模型

卡恩斯是即将于6月2日举行的首届虚拟某机构机器学习峰会的特邀演讲者。

作者：特约撰稿人

2021年5月5日

阅读时长：4分钟

正文

首届某机构机器学习峰会将于6月2日举行，届时将汇聚客户、开发者和科学界人士，共同学习机器学习实践的最新进展。本次峰会免费参加，设有四个面向不同受众的专题论坛，其中包括“机器学习科学”论坛。该科学论坛主要面向数据科学和高级从业者，将重点展示某机构及某机构科学家为推动机器学习发展所做的研究工作。该论坛将由六场时长30分钟的会议和一场45分钟的炉边谈话组成。

在接下来的几周内，某机构科学频道将陆续刊登来自“机器学习科学”论坛演讲者的访谈。在本系列的第二期中，我们采访了某机构学者、宾夕法尼亚大学计算机与信息科学教授迈克尔·卡恩斯。卡恩斯与他的宾大同事、计算机科学教授兼某机构学者亚伦·罗斯（Aaron Roth）合著了《伦理算法：社会意识算法设计科学》一书，该书于2019年首次出版。书中探讨了将公平、隐私等社会规范嵌入代码以保护人类免受算法意外影响的算法设计科学。

卡恩斯是沃伦网络与数据科学中心的创始主任，该研究项目致力于理解数据和算法在塑造相互关联的社会、经济和技术系统中的作用。他最近还当选为美国国家科学院院士。

问：您在机器学习峰会上的演讲主题是什么？

我将介绍机器学习社区在设计更“伦理”的算法和模型方面的最新研究：这些方法遵循重要的社会规范，如公平性、可解释性和隐私性，同时仍能使我们利用人工智能和机器学习的优势。

例如，我将讨论被称为“差分隐私”的丰富算法工具集。这是一种强大的方法，能够以特定的方式向计算中添加噪声和随机性，使我们能够在提供强有力个体隐私保证的同时开发机器学习模型。

此外，近期基于博弈论的机器学习算法可用于强制执行与种族或性别相关的群体公平性概念。从本质上讲，博弈论是一个数学框架，用于推理个体相互交互的系统中集体结果。生成对抗网络（GANs）可以将算法构建为一个博弈：生成器希望使合成数据集尽可能接近真实数据集，而判别器则被设计来指出两者之间的差异。

问：为什么这个主题在当今的科学界特别具有现实意义？

即使是普通观察者也会注意到，人们对于人工智能和机器学习潜在危害与滥用的社会担忧日益加剧，这已经成为当今媒体的广泛报道话题。

虽然这类报道通常会呼吁制定更强有力的技术相关法律法规，但我在演讲中将会提到的科学方法指出了另一种互补的解决方案：从一开始就设计“行为更佳”的、具有社会意识的算法和模型。其中一些科学方法相对成熟——我们已经谈到了差分隐私。其他方法还处于起步阶段，例如使机器学习模型更“可解释”的努力。我们需要进一步探索这些主题，以更深入地理解人们如何使用和解释预测模型的行为。

问：在我们开创社会意识算法设计这一新科学领域的过程中，有哪些三个进展让您感到兴奋？

基础科学……指引了一条通往新算法技术体系的道路，该体系在我们通常追求的准确性和效用性目标与至少部分围绕人工智能和机器学习的主要社会关切之间取得平衡。 ——迈克尔·卡恩斯

首先是基础科学本身，它确实指引了一条通往新算法技术体系的道路，该体系在我们通常追求的准确性和效用性目标与至少部分围绕人工智能和机器学习的主要社会关切之间取得平衡。

第二件令我兴奋的事情是，我们开始看到这门科学在真实应用中得到规模化采用。例如，2020年美国人口普查采用差分隐私技术，以及某机构自身推出的新的公平且可解释的机器学习服务——某机构 SageMaker Clarify。

最后，我感到兴奋的是，过去十年间围绕这些问题形成了一个真正的跨学科社区，这个社区包括像我这样的机器学习研究人员、法律和法规专家、政策制定者、社会科学家、公民自由团体，甚至哲学家。这使得从事这些主题的研究工作变得有趣、激动人心、富有教育意义——并最终产生有意义的影响。

您可以了解卡恩斯的研究，并通过以下链接注册参加6月2日举行的虚拟某机构机器学习峰会，观看他的演讲。

研究领域

机器学习

标签

机器学习峰会、差分隐私、某机构、博弈论、负责任的人工智能

关于作者

特约撰稿人FINISHED