“深远的风险”：为何马斯克等人呼吁紧急暂停ChatGPT开发？

我们是否会被不断发展的智能机器超越、取代和淘汰？这就是马斯克和其他人呼吁暂停强大的人工智能系统开发的原因。

埃隆·马斯克（Elon Musk）和一群人工智能专家及业界高管呼吁暂停开发比OpenAI新发布的GPT-4更强大的系统，他们在一封公开信中提到了潜在的社会风险。

本月早些时候，微软支持的OpenAI发布了其GPT（生成式预训练转换器）AI程序的第四个迭代版本，该程序以其与用户进行人类般的对话、创作歌曲和总结冗长文件的能力而让用户惊叹不已。

“只有在我们确信其效果将是积极的且其风险将可控时，才应该开发强大的人工智能系统，”由生命未来研究所（Future of Life Institute）发布的公开信中写道。

根据欧盟的透明度登记册，根据欧盟的透明度登记册，该非营利机构主要由马斯克基金会、总部位于伦敦的Founders Pledge集团以及硅谷社区基金会资助。

马斯克本月早些时候表示：“人工智能让我倍感压力。”他是行业领袖OpenAI的联合创始人之一，其汽车制造商特斯拉使用人工智能驾驶辅助系统。

马斯克曾对监管特斯拉自动驾驶系统的努力感到沮丧，现在他正在寻求一个监管机构，以确保人工智能的发展符合公共利益。

康奈尔大学数字和信息法教授詹姆斯·格林梅尔曼（James Grimmelmann）表示：“考虑到特斯拉自动驾驶汽车中有缺陷的人工智能问题，马斯克签署此信是极其虚伪的。”

他表示：“暂停（开发）是一个好主意，但这封信含糊不清，没有认真对待监管问题。”

特斯拉上个月不得不召回超过36.2万辆美国车辆以来更新软件。此前美国监管机构表示，驾驶辅助系统可能会导致事故，这促使马斯克发推文称，对于一次无线软件更新来说，“召回”一词“不合时宜而且完全错误！”

“逐渐在数量上超过我们、智力上胜过我们、淘汰并取代我们”

OpenAI没有立即回应对这封公开信发表评论的请求，该信敦促在独立专家制定共享安全协议之前，暂停先进的AI开发，并呼吁开发人员与政策制定者就治理问题进行合作。

“我们应该让机器用宣传和不实言论充斥我们的信息渠道吗？……我们是否应该培养可能逐渐在数量上超过我们、智力上胜过我们、淘汰并取代我们的非人类智慧？”这封信问道，并表示“这样的决定不应委托给未经选举的技术领袖”。

这封信被超过1000人签署，包括马斯克在内。

OpenAI首席执行官阿尔特曼（Sam Altman）未在签署名单之中。Alphabet和微软的CEO桑达尔·皮查伊（Sundar Pichai）和萨提亚·纳德拉（Satya Nadella）也未在签署者之列。

联合签署人包括Stability AI首席执行官莫斯塔克（Emad Mostaque）、Alphabet旗下DeepMind的研究人员，以及被誉为“AI教父”之一的约书亚·本吉奥（Yoshua Bengio）和AI领域研究先驱斯图尔特·罗素（Stuart Russell）等重量级人物。

这些担忧出现之际，ChatGPT因其对国家安全和教育的影响而引起美国立法者的关注。欧盟警方机构欧洲刑警组织周一发出警告，称该系统可能被用于网络钓鱼、虚假信息和网络犯罪。

与此同时，英国政府公布了围绕AI的“适应性”监管框架提案。

“AI竞赛”

“这封信并不完美，但精神是正确的：我们需要放慢脚步，直到我们更好地理解其后果，”纽约大学教授加里·马库斯（Gary Marcus）在签署这封信后表示。

“大公司对他们正在做的事情越来越保密，这使得社会很难防范可能出现的任何危害。”

自去年发布以来，OpenAI的ChatGPT已促使竞争对手加快了类似的大型语言模型的开发，包括Alphabet在内的公司都在竞相将其产品进入AI领域。

据悉，担心依赖单一公司的投资者正在拥抱OpenAI的竞争对手。如微软拒绝就这封信置评，Alphabet也没有回复请求置评的电话和电子邮件。

布朗大学教授、前白宫科技政策办公室助理主任文卡塔苏尼安（Suresh Venkatasubramanian）说：“很多开发这些系统的能力一直掌握在少数拥有资源的公司手中。这就是这些模型的本质，难以构建，难以实现民主化。”