58个国家一起发布AI新标准，确保医疗AI安全有效

医疗保健专业人员可以通过遵循一套新的患者和行业商定标准来安全有效地利用人工智能。

一项名为“团结一致”的国际倡议发布了新标准，确保使用适当的健康数据集开发医疗人工智能系统。这些建议是一项为期两年的研究的结果，涉及来自 58 个国家的 350 多人，包括患者、研究人员、医疗保健专业人员、行业专家和监管机构。

“站在一起”建议确保人工智能系统将用于所有人的多样性，在健康数据集中得到体现。这是当务之急，因为人工智能系统不太可能在数据中没有正确表示的人身上很好地工作，甚至可能是有害的。少数群体在数据集中的代表性特别不足。

这些建议为收集和报告年龄、性别、性别、种族、民族和其他重要特征等详细信息提供了指导。

他们还建议，应透明地报告数据集的任何限制，以确保创建人工智能系统的开发人员能够为其目的选择最佳数据。还就如何识别使用医疗人工智能系统时可能受到伤害的人提供了指导，从而降低了这种风险。

STANDING Together由伯明翰大学医院NHS基金会信托基金和伯明翰大学的研究人员领导。该研究是与来自全球30多个机构的合作者进行的，包括大学，英国药品监管机构（药品和保健品监管局，MHRA），患者团体和慈善机构以及小型和大型健康技术公司。

这项工作由健康基金会和NHS AI实验室资助，并得到国家卫生与护理研究所（NIHR）的支持。

首席研究员刘晓轩博士说：人工智能模型以数据为基础，数据捕获了丰富的信息。不幸的是，在处理健康数据时，这些信息可能包括现有的健康不平等现象。这些不平等可能以多种方式出现，包括特定群体的代表性不足，或者是更广泛社会中结构性偏见的反映。

至关重要的是，任何使用数据开发新创新（包括人工智能）的人都要意识到任何偏见，并考虑到这些偏见。随着我们迈向人工智能支持的未来，我们可以确保这些技术不仅在平均水平上有效，而且对所有人都有效。

英国国家医疗服务体系（NHS）和英国国家医疗服务体系（NHS）人工智能实验室（NHS AI Lab）人工智能、成像和部署总监、数字健康人工智能和数据（Digital Health AI and Data）最近发表的演讲者多米尼克·库什南（Dominic Cushnan）表示：我们目前的数据集缺乏多样性和包容性，这是我们确保人工智能在健康和护理领域为每个人服务的能力面临的主要挑战。

“这些标准是朝着透明和通用地记录我们数据中代表的群体迈出的重要一步，这可以支持负责任和公平地开发和使用人工智能。”

这些建议可在此处开放获取，以支持开发安全、有效和公平的医疗保健人工智能工具。