Anthropic、Google、Microsoft、OpenAI发起前（闭）沿（源）模型论坛

美国四家科技巨头和人工智能企业联合发起了前沿模型论坛（Frontier Model Forum)，准备展开大模型评测标准等方面的研究，也将就负责任与安全的人工智能问题，与美国、欧洲与G7进行沟通。

Anthropic/Google/Microsoft/OpenAI 拥有最大和最先进的闭源模型，也面临着政府、行业及社会日益增加的压力，要求其更加透明。

以下是其联合声明：

Anthropic、Google、Microsoft和OpenAI正在启动前沿模型论坛，这是一个行业机构，致力于确保安全和负责任地开发前沿AI模型。

论坛旨在帮助（i）推进AI安全研究，以促进前沿模型的负责任开发并最小化潜在风险，（ii）确定前沿模型的安全最佳实践，（iii）与政策制定者、学者、公民社会和其他人分享知识，以推进负责任的AI开发；以及（iv）支持利用AI解决社会最大挑战的努力。

前沿模型论坛将建立一个咨询委员会，以帮助指导其策略和优先事项。

论坛欢迎其他愿意合作推进这些模型安全发展的前沿AI模型开发组织的参与。

今天，Anthropic、Google、Microsoft和OpenAI宣布成立前沿模型论坛，这是一个新的行业机构，专注于确保前沿AI模型的安全和负责任的开发。前沿模型论坛将利用其成员公司的技术和运营专业知识，为整个AI生态系统带来好处，例如通过推进技术评估和基准测试，以及开发一个支持行业最佳实践和标准的公共解决方案库。

论坛的核心目标是：

推进AI安全研究，以促进前沿模型的负责任开发，最小化风险，并实现对能力和安全的独立、标准化评估。

确定负责任开发和部署前沿模型的最佳实践，帮助公众理解技术的性质、能力、限制和影响。

与政策制定者、学者、公民社会和公司合作，分享关于信任和安全风险的知识。

支持开发可以帮助应对社会最大挑战的应用，如应对气候变化、早期癌症检测和预防，以及应对网络威胁。

会员资格标准

论坛将前沿模型定义为超越现有最先进模型当前能力的大规模机器学习模型，并能执行各种任务。

会员资格对以下组织开放：

开发和部署前沿模型的组织（如论坛所定义）。

展示对前沿模型安全的强烈承诺，包括通过技术和制度方法。

愿意为推进论坛的努力做出贡献，包括参与联合倡议和支持倡议的开发和运作。

论坛欢迎满足这些标准的组织加入携起手来，共同确保前沿AI模型的安全和负责任的开发。

前沿模型论坛将做什么

政府和行业都认为，虽然AI为世界带来巨大的希望，但需要适当的防护措施来减轻风险。美国和英国政府、欧洲联盟、经合组织、G7（通过广岛AI进程）等已经对这些努力做出了重要贡献。

为了在这些努力的基础上进一步工作，需要进一步研究安全标准和评估方法，以确保前沿AI模型得到负责任的开发和部署。论坛将是跨组织讨论和行动的一个平台，专注于AI安全和责任。

在未来一年，论坛将专注于三个关键领域，以支持前沿AI模型的安全和负责任的开发：

确定最佳实践：在行业、政府、公民社会和学术界之间推动知识分享和最佳实践，重点关注安全标准和安全实践，以减轻各种潜在风险。

推进AI安全研究：通过确定AI安全最重要的开放研究问题，支持AI安全生态系统。论坛将协调各方努力，在以下领域展开研究：对抗性鲁棒性、机制可解释性、可扩展的监督、独立的研究访问、涌现行为和异常检测等领域。一开始将重点发展和分享前沿AI模型的技术评估和基准测试的公共库。

促进公司和政府之间的信息共享：建立可信的、安全的机制，让公司、政府和相关利益相关者分享有关AI安全和风险的信息。论坛将遵循来自网络安全等领域的负责任披露的最佳实践。

Google和Alphabet的全球事务总裁Kent Walker说：“我们很高兴能与其他领先的公司一起工作，分享技术专业知识，以促进负责任的AI创新。我们都需要共同努力，确保AI惠及所有人。”

Microsoft的副主席兼总裁BradSmith说：“创造AI技术的公司有责任确保它是无害的、安全的，并且仍然在人类的控制之下。这个倡议是将科技行业聚集在一起，负责任地推进AI并应对挑战的重要步骤，以便它能够造福全人类。”

OpenAI的全球事务副总裁AnnaMakanju说：“先进的AI技术有可能深刻地造福社会，实现这一潜力需要监督和治理。对AI公司——尤其是那些正在研究最强大模型的公司——在共同立场上达成一致，并推进深思熟虑且可适应的安全实践，以确保强大的AI工具能够带来最广泛的好处，这是至关重要的。这是紧迫的工作，这个论坛有很好的位置，可以迅速推进AI安全的状态。”

Anthropic的首席执行官DarioAmodei说：“Anthropic认为AI有可能从根本上改变世界的运作方式。我们很高兴能与行业、公民社会、政府和学术界合作，推动技术的安全和负责任的开发。前沿模型论坛将在协调最佳实践和分享前沿AI安全研究方面发挥重要作用。”

前沿模型论坛将如何运作

在接下来的几个月里，前沿模型论坛将建立一个咨询委员会，帮助指导其策略和优先事项，代表各种背景和观点。

创始公司还将设立关键的机构安排，包括章程、治理和资金，由工作组和执行委员会领导这些努力。我们计划在未来几周内就论坛的设计和合作方式与公民社会和政府进行咨询。

现有行业、公民社会和研究努力已经做出了宝贵的工作，论坛的每项工作也会在其基础上展开。像Partnership on AI和MLCommons这样的倡议，在整个AI社区中继续做出重要贡献，论坛将探索与其展开合用的方式，也会支持其他有价值的多方利益相关者。