传奥特曼被解雇前OpenAI取得技术突破 新模型能威胁人类令董事会震惊

腾讯科技讯 11月23日消息，知情人士周三透露，在山姆·奥特曼（Sam Altman）上周五被OpenAI前董事会突然罢免之前，数位研究人员曾向董事会发送了一封信，警告称他们发现了一种能够威胁到人类的强大人工智能。

知情人士表示，这封未被公开的信件和人工智能算法，是导致前董事会罢免生成式人工智能杰出代表奥特曼的催化剂。在他周二晚上以胜利者的姿态重返OpenAI之前，OpenAI 770名员工中的绝大多数人都签署联名信，威胁若奥特曼不回归，将选择辞职追随奥特曼加入微软，来声援被解雇的奥特曼。据悉，这封信只是OpenAI前董事会对奥特曼诸多不满的原因之一，最终导致他被解雇。截至目前，

OpenAI对此报道未予置评。

追溯到奥特曼被解雇之前，他曾在亚太经合组织CEO峰会上发表了一番神秘言论，但并未引起太多注意，因为该公司随后便陷入了混乱。奥特曼当时称，该公司最近取得的一项技术进步，该技术进步使其能够“推开无知的面纱，推进发现的前沿。”知情人士表示，一些OpenAI员工认为，奥特曼的评论指的是该公司研究人员今年早些时候的一项创新技术。这项创新将使他们能够开发出更强大的人工智能模型。据悉，由OpenAI首席科学家伊尔亚·苏茨克维（Ilya Sutskever）牵头的技术突破引起了一些员工的担忧，他们担心该公司没有适当的保护措施来商业化这种先进的人工智能模型。

在接下来的几个月里，OpenAI高级研究人员利用这项创新建立了可以解决基本数学问题的系统，这对现有人工智能模型来说是一项艰巨的任务。研究人员雅库布·帕乔基（Jakub Pachocki）和西蒙·西多尔（Szymon Sidor）根据苏茨克维的突破性技术，搭建出一个名为“Q*”（发音为Q-Star）的模型。尽管只表现出小学生水平的数学成绩，但通过这样的测试让研究人员对“Q*”未来的成功非常乐观。这款模型的开发速度惊动了一些专注于人工智能安全的研究人员。来自苏茨克维安全团队的担忧表明，即使在奥特曼重新担任首席执行官后，OpenAI内部关于其工作节奏的紧张局势仍将继续，高管之间仍会存在分歧。

在取得突破后的几个月里，直到周二还在OpenAI董事会任职的苏茨克维似乎对这项技术持保留态度。他在今年7月组建了一个团队，致力于限制比人类聪明得多的人工智能系统的威胁。该团队在公司网站宣传页中宣城：“虽然超级智能现在似乎还很遥远，但我们相信它可能会在十年内到来。”

在上周末奥特曼被突然罢免之后，帕乔基和西多尔随即宣布辞职。考虑到他们在OpenAI从事的项目公司，就能够解释他们为什么是首批辞职的高级研究人员。在奥特曼回归之后，他们也已经重返公司。

知情人士透露，OpenAI首席技术官米拉·穆拉蒂（Mira Murati）周三向员工透露，关于“Q*”取得人工智能技术突破的信，是促成前董事会采取行动罢免奥特曼的原因。