人们对谷歌这样的大型科技公司持谨慎态度,人们也很关心人工智能,如果是两者结合,就会产生一种普遍的不信任,这种不信任会阻碍重要的进展。
谷歌的工具包旨在为开发者、监管者和下游用户提供AI模型透明度报告。
这组工具包支持ML开发人员编译进入Model Card的信息,并帮助创建对不同受众有用的接口。
谷歌在过去一年推出了自己的模型卡,该公司在2018年10月的白皮书中首次提出了这一概念。
工具包提供了一个结构化的框架,用于报告ML模型的起源、使用和基于道德的评估,并给出了模型建议使用和限制的详细概述。
到目前为止,谷歌已经发布了基于其MediaPipe平台的开源模型模型卡,以及商业云视觉API人脸检测和对象检测服务。
谷歌的模型卡新工具包通过编译数据和帮助构建面向特定用户的接口,将简化为第三方创建模型卡的过程。
这里有一个模型卡的例子:
MediaPipe已经在其GitHub知识库中发布了每个开源模型的模型卡。
为了演示Model Cards Toolkit如何在实践中使用,谷歌发布了一个教程,该教程为一个简单的分类模型构建了一个模型卡,该分类模型是在UCI人口收入数据集上训练的。
领取专属 10元无门槛券
私享最新 技术干货