刘慈欣谈AI人工智能：ChatGPT是否会彻底取代甚至毁灭人类？

今年，随着人工智能的迅猛发展，或许是人类距离科幻成为现实最近的一次。

各行各业的专家们，都开始畅想人类与 AI 的未来。

刘慈欣作为国内顶尖的科幻小说家之一，自然也在各种场合被提问。

最近，刘慈欣做客俞敏洪的直播间，探讨本土科幻小说的发展。

当被问到对 AI 的看法时，大刘表示，尽管人工智能目前的水平还没有达到“统治人类”的程度，但它已经产生了很大的影响。

他透露，在参加前不久的科幻大会时，因为时间紧迫，有一两篇发言稿是用 ChatGPT 写的，结果写得还不错。

刘慈欣谈AI人工智能：ChatGPT是否会彻底取代甚至毁灭人类？

很显然，AI 的迅速发展已经让人类感受到了危机。

无数人想知道，再这样发展下去，人工智能是否会彻底取代人类？甚至毁灭人类？

对于这个问题，刘慈欣在联合国中文日交流会议上发表了一篇题为《科幻文学中的可持续未来》的演讲，在演讲结束后，刘慈欣谈到了以 ChatGPT 为代表的人工智能可能会给人们带来的影响。

刘慈欣谈及人工智能的影响，认为其首先会取代高智能的职业，但这与之前的预测相反。其次，人工智能可以自我迭代出更高智能的版本，但我们的算力限制了它的发展。此外，人工智能可能会让人类陷入舒适的陷阱之中。

在现实和近未来的层面上，人工智能已经产生了一个明显的趋势：它有可能代替我们人去从事很多的工作，提高我们的生活质量和幸福感。

然而，我们也不能忽视人工智能对人类社会带来的冲击，特别是在文化艺术、文学等领域，甚至可能重新定义这些东西。至于人工智能是否会消灭人类，刘慈欣认为从目前的技术发展趋势来看，可能性不大。

但是，人工智能的迭代可能会让它很快地把智能水平提高到几百倍甚至上万倍，而人类的计算能力是有限的，所以人类的无能反而成为最后的屏障。此外，如果人工智能发展到一定程度，社会可能会面临前所未有的巨大陷阱。因此，我们应该对未来有所警觉。

下面为问答节选（部分删减）：

Q：现在 ChatGPT 横空出世，被人们热烈地讨论，您觉得人工智能的发展对人类的命运会产生一个什么样的影响？那自我迭代的人工智能有没有可能会取代或者说消灭人类？

刘慈欣：我觉得这（人工智能的影响）应该从这个现实或近未来和比较远的未来这两点来看待。

人工智能目前已经开始替代大部分人的工作，但和我们预测的不一样。

大家都认为人工智能最先替代的会是那些简单、重复的体力劳动。但现在看来却正好相反。

人工智能首先代替的是那些需要高智能、高教育程度的工作，这可能会对人类社会的基础学科产生重要影响，甚至介入人类对发展规律的认识之中。

至于它是否有可能像科幻电影里那样毁灭人类，需要分两个层次。

第一个层次的毁灭是，人工智能是否会用某种暴力消灭人类？从目前的技术发展趋势来看，在可以看见的未来，可能性不大。

因为人工智能的迭代是需要算力支持的，而人类能够提供的算力是有限的，因此它不可能无限制地迭代下去。

这是一件很讽刺的事，人类的无能反而成为了人类最后的屏障。

第二个层次的毁灭是，由人工智能构建的科技“安乐窝”，让所有人无需工作就过上了舒适的生活。

人类越来越多的交出自己运作社会的权利，而在整个过程中，AI 只是服从了人类的命令，没有任何恶意。

然而，在这种无需努力就能获得一切的情况下，人类文明的活力和开拓精神何在？

这是另外一种意义上的毁灭。

所以这确实是我们应该对未来有所警觉的一件事情。