紫牛荐书｜AI开发的步伐，要不要按上“暂停键”？

很多年后，当人类开始回顾人工智能技术在全球领域的应用，会不会提到2023年？

这一年，Chatgpt爆火，大众对人工智能技术的关注和讨论走向高潮。短时间内，网上出现了AI主播、AI模特、AI作家、AI画家等各类各样的“数据仿生人”。

在这种情况下，有人发表感叹，有人提出质疑，也有更多的人开始思考：基于伦理和道德观念的考虑，“AI”开发和商业应用的步伐是否过快，需不需要按上‘暂停键“？

就在前几天，《人类简史》作者尤瓦尔·赫拉利在《纽约时报》发表联合署名文章，呼吁人类提高对AI快速扩张、发展的警醒。

他在文中写道：“社交媒体是人工智能与人类的第一次接触，而人类输了。”“大型语言模型是我们与人工智能的第二次接触，我们不能再输了。”

记者在写这篇报道时，又有一封被发表于future of life网站的公开信，引起国内外轰动。CEO埃隆·马斯克、苹果联合创始人史蒂夫·沃兹尼亚克等商业人士，联合署名，呼吁暂停巨型人工智能实验。

尤瓦尔·赫拉利发布在《纽约时报》的文章，不是他第一次呼吁大众思考AI开发背后的伦理问题。

早在2011年，他就曾在自己的知名著作《人类简史》中表示：技术从来不是只有一条路，事情“可以做”并不意味着“必须做”……放慢改变的速度，或许能让我们有时间创造足够多的新工作机会来弥补大部分损失。

中信出版集团推出的《人类简史》一书中，尤瓦尔·赫拉利撰写了一篇名为“人工智能是用来造天堂，还是建地狱？的序言，其中谈到了他对人工智能技术的更多看法。

扬子晚报/紫牛新闻记者通过出版社获得全文，发布如下：

2011年夏，我写完《人类简史》后，觉得肯定不会再讲那个故事了。我对那本书有一份特别的喜爱，也为该书的成功而心存感激，但我觉得我已经讲完了人类这个物种如今的故事。人类2.0仍在展开，可我想以后的故事最好留给别人去讲。

但是，2016年美国总统选举后，我想我恐怕要回到开头，重新审视我们这个物种通过想象建构秩序和统治结构的独特能力。

过去几年间，我们看到，假新闻比真新闻更强大；联邦调查局可以选总统；脸书可以左右选举；一个亿万富翁可以当选总统，而且比对手花的钱还少；一个国家可以分裂为两个敌对阵营，彼此拒绝倾听对方的意见。

换言之，人类以想象来建构大规模秩序这一独特的能力现在开始转向对我们不利。今天我们面临的巨大挑战是创立一个不以民族国家或资本主义市场为基础的由想象建构的新全球秩序。

有没有办法创造一个并非基于民族国家，或自由市场，或个人主权，或驾驭自然的想象建构的新全球秩序呢？这就是我想在本书中讲的故事。

写出上面这些文字的不是我尤瓦尔·诺亚·赫拉利，而是一个强大的人工智能系统按指令模仿我的写作风格写的。这个人工智能系统叫作GPT—3，是旧金山一家专门研究机器学习的实验室“OpenAI”制造的。GPT—3接到指令，要它为《人类简史》出版10周年写一篇新序，于是它收集了我写过的书和文章、对我做过的访谈，以及在网上找到的几十亿个句子，使用这些原材料生产出了上面的文字。这些文字没有经过任何编辑改动。

我读着GPT—3模仿我的风格写出的文字，心情复杂。一方面，我觉得这些文字不怎么样。GPT—3抄了我自己写过、说过的一些话，将其与从互联网上搜罗到的各种主张糅在一起。这些主张中有很多是我不同意的，甚至有些我认为不能服人，或者简直荒唐可笑。如此产生的文章是文字与思想的大杂烩。目前我并不担心——GPT—3不会夺走我的工作，至少今后几年不会。

另一方面，我真心讶异不已。读着上面的文字，我被惊得瞠目结舌。这是人工智能写的吗？！不错，这些文字是这里一点那里一点拼凑起来的杂烩。可天下文章难道不都是这样吗？

我写《人类简史》时，也阅览了许多书籍、文章和访谈录，把不同的思想和事实合并起来写成新的东西。GPT—3生产的这些文字最令人震惊的是它居然言之有理。它不是胡乱拼凑了一堆句子，而是有着连贯的逻辑。

我不同意GPT—3的一些论点，但使我感到惊骇的是，这些文字真的提出了论点。如果给“无限猴子定理”中的猴子一台打字机让它玩，我只需瞥一眼，半秒钟内就能够认定猴子打出的东西不是我写的。可是，我得把GPT—3的文字仔细读上一两分钟，才能得出结论这并非出自我手。

2010年我写《人类简史》时，我几乎没有想过人工智能。它听起来不属于严肃的历史书，倒像是科幻电影的题材。可是，当我坐在图书馆里埋头于故纸堆的时候，我那些在计算机科学实验室的同事也没闲着。2011年，《人类简史》以希伯来文首次出版，一个名叫沃森的人工智能在美国一个很受欢迎的智力竞赛节目《危险边缘》（Jeopardy!）上打败了人类参赛者，一辆自动驾驶汽车在柏林城里的大街小巷穿行了一圈，苹果手机上安装了语音助手Siri。

10年后，人工智能革命席卷世界。这场革命标志着我们所知的人类历史的完结，数万年来，人类发明了各种工具，使人类的力量更加强大。斧头、轮子和原子弹给了人类新的力量。人工智能却不同。有史以来第一次，力量可能会脱离人类之手。

以前的所有工具都使人类更强大，因为人懂得工具，而工具不懂得人。一个农夫知道一把斧头能做什么，但斧头不明白农夫的需要和感觉。很快，人工智能就能比我们更加了解我们自己。它是会继续做我们手中的工具，还是我们会成为它的工具呢？

自我写成《人类简史》以来，人类的故事增添了众多细节和新的曲折。但是，我在书中表达的中心意思丝毫没有改变：对智人最好的描述是，他是会讲故事的动物。我们创作出了关于神、国家和公司的虚构故事，而这些故事构成了我们社会的基础和我们生活意义的源泉。

如果真想搞懂人类历史，就必须认真对待我们的虚构故事。只看经济或人口因素是不够的。

要创造一个更美好的世界，只学会计算机编码或解译遗传密码是不够的。人工智能和遗传工程学很容易被用来为极权暴君和宗教狂热分子服务。我们真正需要明白的是人的头脑以及头脑产生并相信的幻想。这是诗人、哲学家和史学家的任务，现如今这个任务比任何时候都更加紧迫。

GPT—3冒充我写的那些文字我并不全同意。但其中有一句话我完全认可：“我们生活在由和我们非常不同的人在我们出生很久以前发明的思想牢狱之中。”在我看来，像我这样的历史学家的工作是展示这些思想牢狱是如何建造起来的，并表明我们并非注定关在其中无法逃脱。人是讲故事的动物；没有故事，人类社会就无法运作。但归根结底，这些故事不过是我们为了帮助人而创造出来的工具。如果一个故事造成的弊大于利，我们总可以把它改掉。（内容作部分删减）

扬子晚报/紫牛新闻记者 孙庆云

校对 王菲