OpenAI发布AGI发展章程，重点关注安全与合作

AiTechYun

编辑：chux

今日，OpenAI发布了一篇关于AGI（通用人工智能）的发展章程，从人类共同利益出发，涉及现阶段和未来发展的一些典型问题，在总结了过去两年内行业人士对此的反馈后，虽然AGI的时间线仍不明朗，但仍找出了未来的发展路线和兴趣攻坚点。

AGI作为AI的“升级版”，是未来发展的新趋势，AGI将具有各个狭窄范围的AI能力结合起来，得到具有超强能力的集合体。

OpenAI的目标是确保AGI高级智能系统在最有经济价值的工作上可以超越人类，这样整个人类社会都可以因之受益。

AI的安全性一直是有争议的话题，创造安全性高的AI也是OpenAI的任务，另外，OpenAI也愿意为了达到共同的目标提供帮助。

因此，让我们来看看OpenAI所承诺的几个原则：

广泛的效益

目前AI涉及的范围并不算是宽广，即使在一个独有的领域内达到超前的水平，也不能够泛化。从对人类发展的角度上来讲，必然需要趋利避害，保证AGI的发展会带来广泛的效益，而减少可能会危害到人类的性质。

这也是出于对人类社会的责任考虑的，而OpenAI也承诺，为完成这一目标，虽然需要一些重要的资源和材料，但绝对会减少过程中员工与利益相关者的矛盾和争端，以达成共同利益和目标。

长远上的安全性

在现实中，已有不少影视作品已表现出未来AI的安全隐患，AI有着无限可能，但带来便利的同时也会引起不少威胁。

从AGI的发展现状来看，当AGI的后期发展到一定程度时，安全预防措施是非常有必要的，但可能不会有太充足的时间来准备应对安全隐患。

因此，OpenAI也提到了安全性这个令人担忧的问题，并表示一旦在他们之前出现有价值且关注安全性的项目，就会放弃竞争并协助这项工程。这样解决好逐个协议的细节问题，那么超出一般的突破发展机会可能会在之后两年出现。

技术领导力

若使AGI对社会的影响行之有效，OpenAI认为必须要站在AI性能技术的最前沿，只是主张有关政策和安全性是远远不够的。在AGI成熟前，AI也会对社会影响广泛，而在与其目标和专长相关的这些领域中，OpenAI会发挥其领导力。

合作导向型

在合作方面的展望，OpenAI可以说花了不少心思，无论是研究、政策制度，或是在全球社会处理AGI的相关挑战方面，都提出了合作的愿景。

比如，提供公共物资帮助社会寻找到通往AGI技术的最佳通路。

不过OpenAI也指出，如今这些做法包括发表大部分AI研究，但期望对安全性关注的同时，更加注重增加分享安全、政策和其他标准研究的重要性。

AI在人们的生活逐渐变得普遍，那么作为更高级的AGI时代的到来，也确实令人愈发期待。