霍金：人工智能也有可能是人类文明史的终结

网易科技讯 12月13日消息，在长城会举办的“天工开悟，智行未来”的活动上，霍金现在还无法判断人工智能的崛起对人类来说到时是好事还是坏事，但我们应该竭尽所能，确保其未来发展对我们和我们的环境有利。“我认为人工智能的发展，本身是一种存在着问题的趋势，而这些问题必须在现在和将来得到解决。”

霍金表示，人工智能的研究与开发正在迅速推进。也许我们所有人都应该暂停片刻，把我们的研究重复从提升人工智能能力转移到最大化人工智能的社会效益上面。

人类未来是否会被人工智能代替？霍金表示，人类无法知道我们将无限地得到人工智能的帮助，还是被藐视并被边缘化，或者很可能被它毁灭。我们担心聪明的机器将能够代替人类正在从事的工作，并迅速地消灭数以百万计的工作岗位。

此外，霍金强调，人工智能也有可能是人类文明史的终结，除非我们学会如何避免危险。我曾经说过，人工智能的全方位发展可能招致人类的灭亡，比如最大化使用智能性自主武器。除非，人工智能系统需要按照人类的意志工作。