两位AI教父获得诺贝尔物理学奖，担忧智能反噬人类

2024年，诺贝尔物理学奖的桂冠荣耀地落在了约翰·霍普菲尔德教授与杰弗里·辛顿教授这两位杰出科学家的头上，以表彰他们在机器学习领域的开创性发现，这些发现为当前人工智能的广泛应用奠定了坚实的基石。

作为普林斯顿大学的杰出教授，霍普菲尔德与多伦多大学计算机科学领域的领航者辛顿，因其在机器学习领域的卓越贡献而备受赞誉。他们的工作成果，为当今众多基于人工智能的产品和应用提供了强大的技术支持。值得一提的是，尽管荣誉加身，辛顿教授却对人工智能的未来持有审慎的态度，为此，他甚至毅然决然地与昔日的东家谷歌分道扬镳，只为能在这个问题上更加自由地发声。

“他们的工作对于构建我们今天所体验的人工智能大厦而言，是至关重要的基石。”诺贝尔物理学委员会成员马克·皮尔斯在接受采访时，如此高度评价了这两位科学家的贡献。

周一，在瑞典，诺贝尔物理学委员会郑重宣布了这一科学界的至高荣誉，这一奖项被视为科学成就的巅峰象征。获奖者将获得高达1100万瑞典克朗的现金奖励。

被誉为人工智能“教父”的辛顿教授，在得知自己荣获诺贝尔奖时，表示感到“无比震惊”。在谈及自己研究成果的潜在意义时，他深刻指出，人工智能将对我们的社会产生“深远且巨大的影响”。

“它将与工业革命相媲美，但不同的是，它不会在体力上超越人类，而是在智力上超越我们。我们尚不清楚，生活在一个拥有比我们更聪明事物的世界中，会是怎样的感受。”辛顿教授在宣布获奖后，通过电话采访表达了这样的担忧。

辛顿教授进一步预测，这项技术将彻底改变包括医疗保健在内的多个领域，从而极大提升社会的生产力。然而，他也警告说：“我们同样必须警惕一些可能的不良后果，特别是当这些技术失控时所带来的威胁。”

“我担心，这样做的总体后果可能是比我们更智能的系统最终会掌握控制权。”辛顿教授补充道。

诺贝尔物理学委员会主席艾伦·穆恩斯表示，由于获奖者的工作，人工智能已经“深深融入我们的日常生活”，从面部识别到语言翻译，无处不在。

穆恩斯说：“获奖者的发现和发明构成了机器学习的核心，它们能够帮助我们做出更快、更可靠的决策，比如在诊断医疗状况时。”

美国物理学会（American Institute of Physics）首席执行官迈克尔·莫洛尼也表示，诺贝尔奖获得者的工作彻底改变了科学领域，使机器学习系统能够处理海量数据，并让科学家能够发现原本难以察觉的模式。

“大约40年前，人们对这些神经网络充满了热情……但当时我们还没有真正实施和利用这些发现的技术。这需要时间，而现在我们已经做到了，并且它以惊人的速度在加速，”莫洛尼说。

“生成式AI系统和机器学习系统已经改变了对系外行星的搜索。”他补充道，“这只是众多例子中的一个。”

人工智能，这一术语如今已成为使用人工神经网络进行机器学习的代名词。而这项技术，正是由霍普菲尔德和辛顿基于大脑的结构而开发的。

大脑由神经元构成，而人工神经网络则由具有不同值的节点组成。大脑的神经元通过突触进行交流，而人工节点则通过连接相互影响。通过增强节点之间的连接，我们可以训练人工神经网络，就像训练大脑一样。

就像我们绞尽脑汁回忆某个很少使用且只模糊记得的单词或事实一样，人工神经网络也能够搜索并提取它保存的模式——这都要归功于1982年霍普菲尔德网络的发明。

“霍普菲尔德对大脑这一由小型计算神经元网络连接而成的物理系统充满了好奇。他想知道，是否有可能建立一个如此简单的学习系统。而事实上，这是可行的，”皮尔斯如此描述霍普菲尔德的贡献。

在霍普菲尔德发表他的研究成果后，辛顿利用统计物理学的思想对其进行了拓展，并开发了最早的机器学习形式——玻尔兹曼机。

“特别是，他（辛顿）证明了可以使用网络在数据中查找模式，”皮尔斯补充道。

自1980年代以来，网络规模不断扩大。虽然霍普菲尔德当时使用的网络仅有30个节点——连接它们的参数不到500个——但如今的网络，例如用于支持ChatGPT的网络，可以包含超过1万亿个参数。

与传统软件不同，传统软件更像是按照食谱烘烤蛋糕的固定流程，而人工神经网络则能够通过示例学习——利用先前的知识来创造新的“食谱”。

作为人工智能领域的先驱，辛顿教授还不断提醒人们要对这项技术保持警惕。2023年5月，在担心人工智能可能变得过于聪明后，他决定“吹哨”示警，并辞去了谷歌的职务。

“我只是一个突然意识到这些事物可能比我们更聪明的科学家。”辛顿教授去年在接受采访时说，“我想发出警告，我们应该认真对待如何阻止这些事物控制我们的问题。”

他警告说，人工智能“懂得如何编程，因此它会设法绕过我们为它设定的限制。它会设法操纵人们去做它想做的事。”

在周二的宣布仪式上，当被问及是否后悔自己帮助创造了这项技术——尽管它带来了许多潜在的好处，但也可能造成巨大伤害时，辛顿教授表示：“有两种遗憾。一种是因为做了你知道不应该做的事情而感到内疚的遗憾；另一种是，你做了在同样情况下你会再做一次的事情，但最终可能不会有好结果的遗憾。”

“我属于后者。在同样的情况下，我还会再做一次，但我担心这样做的总体后果可能是比我们更聪明的系统最终会控制我们。”

关注『跟着大事跑的人』，全球热点一手掌握！