IBM如何推进人工智能治理，助力企业增强信任以及管理透明度

图片来自:IBM

随着越来越多的企业扩展对人工智能的使用,他们面临的挑战是怎样缓解相关风险 , 以及在人工智能决策中建立真正的信任。谈及可信人工智能,我们认为消费者、客户和所有相关方都需要知道人工智能怎样影响他们的日常生活、所在单位和工作。

在IBM,我们正致力于加速人工智能透明化的进程。这就是为什么IBM发布了新的IBM Watson功能和IBM服务,旨在帮助企业管理人工智能并在其整个生命周期中建立信任——从准备和构建人工智能模型,直至在生命周期中进行部署和管理。

AI FactSheets和Cloud Pak for Data提供了新的人工智能治理工具

收集有关人工智能模型重要特性的文档,例如其目的、性能、数据集、特性等,可以帮助提高人们对该技术的信任。这就是为什么IBM研究院在2018年提出了AI FactSheets的概念。

观看视频:https://www.youtube.com/watch?v=-4d3kEVsu-s

今天,IBM宣布计划将IBM研究院AI Factsheets方法中的关键自动化文档功能在Watson Studio in Cloud Pak for Data中进行商业化。这些功能将为企业提供工具,以定义怎样使用人工智能,自动采集模型性能的关键事实,并生成报告或者FactSheets,以支持内部和外部的透明度与合规要求。AI FactSheets将提供:

· 策略创建(Policy Creation)——FactSheet Template:定义采集关于模型的哪些信息并通过FactSheet进行跟踪;模型事实,例如怎样创建、测试、训练、部署和评估人工智能服务;数据使用;需要符合哪些法规或者公司政策;谁可以使用模型、用于什么目的以及应怎样运行。

· 自动数据采集(Automated Data Capture)——Model Facts:有助于在整个人工智能生命周期中,连续、自动地采集由FactSheet模板设定的模型事实。

· 自动报告(Automated Reporting)——FactSheet:提供FactSheet,根据不同部门成员和外部受众的需求和偏好,以可共享、综合的方式进行编译,通过多种格式提供有关人工智能模型的知识。FactSheet跟踪模型构建、更新和在生产中运行时的事实,提供最新的深度分析结果。

由Morning Consult委托的IBM“减少扩展人工智能中的风险:不可信将不再是人工智能应用的障碍《Scaling AI Not Risks: Removing Trust as a Barrier to AI Adoption》调查结果显示,在大型企业中,68%的人工智能专业人员认为,他们的部门花了太多时间记录数据和人工智能模型,用于内部和外部合规和报告;84%的人工智能专业人员认为,消费者更可能选择一家提供透明度和道德框架的公司的服务,以掌握其数据和人工智能模型是怎样构建、管理和使用的。

与食品的营养标签或者电器的信息表相似,AI Factsheets服务是为了提供有关产品重要特性的信息,简化合规和报告,以建立消费者和企业对人工智能服务的信任。

AI Factsheet工具进一步完善了IBM Cloud Pak for Data,最近添加了新的功能,为可在任何云上运行的人工智能打下了坚实、可信的基础,包括更直观的基于角色的用户界面、增强治理和安全,以及联合学习功能,在确保数据隐私和安全的前提下,支持基于分布式数据集的模型训练。

新的IBM服务帮助客户构建可信的人工智能

可信人工智能是指拥有一种全面的人工智能治理方法,将工具、解决方案、实践和人员聚集在一起,负责人工智能整个生命周期的治理。这就是为什么IBM推出了IBM Services for AI at Scale,这一新服务提供了一种框架、方法和底层技术,以指导企业走上人工智能之旅。该服务通过工作流为客户提供支持,例如:

· 人工智能道德评估(AI Ethics Assessment):从发现漏洞到了解潜在客户道德成熟度和风险的完整评估。

· 可信人工智能设计(Trustworthy AI Design):共同创建得到自上而下的支持和赞助的框架和原则,为企业制定明确的人工智能原则。

· 全企业创新(Enterprise-Wide Innovation):开发符合道德、可操作、可重用和可扩展的人工智能和机器学习模型。

对客户意味着什么

让我们畅想一下, 这些提升对于一家领先的电信公司如何意义巨大。如今,这家电信公司需要花费大量的时间和资源来记录他们部署的人工智能模型,以便向监管机构和其他相关方进行报告。这些文档通常是以临时、手动和不完整的方式完成的,因此,过程的效率不高。通过使用Watson的AI Fact Sheets功能以及IBM Services for AI at Scale获得的深度分析结果,该公司能够精确地设定从其人工智能模型中采集哪些信息,并自动为监管机构生成有用的文档。IBM计划在2021年,铺陈、推广AI Factsheets。这将有助于确保公司为合规有所准备。

为了部署并扩展人工智能,企业必须在整个人工智能生命周期内建立可信的模型和业务成果。通过将IBM研究院针对FactSheets构建的功能在Watson中商业化,并推出这些新服务,我们为客户提供了业界最全面的人工智能治理全套解决方案,将有助于提高透明度,管理风险,增强对人工智能的信任。(作者:Seth Dobrin)