谷歌微软OpenAI携手组建前沿模型论坛 专注AI大模型的安全开发

腾讯科技讯 7月26日消息，人工智能初创公司Anthropic、谷歌、微软和OpenAI周三正式宣布成立行业团体前沿模型论坛（the Frontier Model Forum）。该论坛是一个全新的行业机构，专注于确保负责任的开发前沿人工智能模型及其安全。

前沿模型论坛将利用其成员公司的技术和运营专业知识，使整个人工智能生态系统受益，如通过推进技术评估和基准，以及开发公共解决方案库来支持行业最佳实践和标准。

前沿模型论坛的核心目标包括

--推进人工智能安全研究，促进企业负责任的开发前沿模型，最大限度地降低风险，并实现独立、标准化的能力和安全评估。

--确定负责任地开发和部署前沿模型的最佳实践，帮助公众理解技术的性质、能力、局限性和影响。

--与政策决策者、学者、民间团体和企业合作，分享关于信任和安全风险的知识。

--支持开发有助于应对社会最大挑战的应用，如气候变化缓解和适应、癌症早期检测和预防，以及应对网络威胁等等。

成员资格标准

前沿模型论坛把前沿模型定义为大规模机器学习模型，这些模型超过了目前最先进的现有模型的能力，并可以执行各种各样的任务。

复合标准的以下组织可加入该行业团体：

--开发和部署前沿模型(由论坛定义的标准)。

--展示对前沿模型安全的坚定承诺，包括通过技术和制度方法。

--愿意为推进论坛的努力作出贡献，包括参与联合倡议和支持倡议的发展和运作。

--论坛欢迎符合这些标准的组织加入其中，并合作确保负责任的开发前沿人工智能模型及其安全。

前沿模型论坛将做什么

各国政府和行业一致认为，虽然人工智能为造福世界带来了巨大的希望，但需要适当的护栏来降低风险。美国和英国政府、欧盟、经济合作暨发展组织（OECD）、七国集团和其他方面已为这些努力做出了重要贡献。

为完成这些努力，需要在安全标准和评估方面开展进一步的工作，确保前沿人工智能模型得到负责任的开发和部署。该论坛将是一个跨组织的关于人工智能安全和责任的讨论和行动的载体。

该论坛将在未来一年关注三个关键领域，支持前沿人工智能模型得到负责任的开发及其安全：

--确定最佳做法：促进行业、政府、民间团体和学术界之间的知识共享，重点是安全标准和安全做法，减轻各种潜在风险。

--推进人工智能安全研究：通过确定人工智能安全方面最重要的开放研究问题，来支持人工智能安全生态系统。该论坛将协调研究，推进这些领域的努力，如神经网络鲁棒性（adversarial robustness），机制可解释性 (Mechanistic interpretability) ，可扩展的监管(Scalable Oversight)，独立的研究访问（independent research access），紧急行为和异常检测。最初将重点开发和共享前沿人工智能模型的技术评估和基准的公共库。

--促进企业和政府之间的信息共享：建立可信、安全的机制，在企业、政府和相关利益攸关方之间共享有关人工智能安全和风险的信息。该论坛将遵循网络安全等领域负责任披露的最佳实践。

高管点评

谷歌和Alphabet全球事务总裁肯特·沃克（Kent Walker）表示：“我们很高兴与其他行业领先的公司合作，分享技术专长，促进负责任的人工智能创新。我们都需要共同努力，确保人工智能惠及所有人。”

微软副总裁兼总裁布拉德·史密斯（Brad Smith）表示：“开发人工智能技术的公司有责任确保它是安全的，有保障的，并处于人类的控制之下。这一举措是将科技公司聚集在一起，以负责任的方式推进人工智能并应对挑战的重要一步，最终实现造福全人类的目标。”

OpenAI全球事务副总裁安娜·马坎朱（Anna Makanju）表示：“先进的人工智能技术有潜力造福社会，实现这一潜力的能力需要监督和治理。值得注意的是，人工智能公司--特别是研究最强大模型的公司--在共同点上保持一致，并推进深思熟虑和适应性强的安全实践，以确保尽可能的享用强大人工智能工具带来的好处。这是一项紧迫的工作，本论坛完全有能力迅速采取行动，推进人工智能的安全状态。”

Anthropic首席执行官达里奥·阿莫迪（Dario Amodei）表示：“Anthropic认为，人工智能有可能从根本上改变世界的工作方式。我们很高兴能与业界、民间团体、政府和学术界合作，促进安全和负责任的人工智能技术发展。前沿模型论坛将在协调最佳实践和分享前沿人工智能安全研究方面发挥至关重要的作用。”

前沿模型论坛将如何运作

未来几个月，前沿模型论坛将成立一个顾问委员会，帮助指导其战略和优先事项，代表各种背景和观点。

创始公司还将建立关键的制度安排，包括章程、治理和资金，并由一个工作组和执行委员会来领导这些工作。创始公司计划在未来几周就论坛的设计和有意义的合作方式与民间团体和各国政府进行磋商。

前沿模型论坛欢迎有机会帮助支持和反馈现有的政府和多边倡议，如G7“广岛人工智能进程”(Hiroshima AI Process)、经合组织在人工智能风险、标准和社会影响方面的工作以及美国-欧盟贸易和技术委员会。

论坛还将寻求在现有行业、民间团队和研究工作的基础上，跨越每个工作流程。论坛将探索如何与有价值的群体合作并提供支持。（无忌）