AI奇点临近，人类会跌落生命的平衡木吗？

美剧《西部世界》里，AI女主角Deloris讲到：“新出现的陌生光芒和黑暗一样令人恐惧。”

当下的初级AI还不足以令人感到担忧，毕竟它仅是一个算法或程序表达而已。或许我们还没意识到AI的“奇点”（AI有突然产生意识的时间点）正在靠近，这种“陌生光芒”或许就在不久的将来。

我们现在所处就是弱人工智能时代，我们对AI时代的认知，就像当年拿着洋气的“大哥大”，而无法感知智能手机给生活带来的改变一样。用Aaron Saenz的观点，现在的弱人工智能，就是地球早期软泥中的氨基酸——没有动静的物质，突然之间就组成了生命。

人类将自己的未来放到了技术手里，无论是让人工智能更像人类思考的算法，还是让机器人大脑运转更快的芯片，都在向奇点靠近。谷歌工程总监、《奇点临近》的作者库兹韦尔认为，一旦智能机器跨过奇点，人工智能的发展将进入加速喷发状态，可以与人脑相媲美，甚至比人脑更具可塑性的“仿生大脑”终将出现。

01

AI实验中的奇怪现象

（1）关于AI的奇怪现象

Facebook正在开发谈判机器人，然而不久前实验室的一幕却吓得科学家几乎只能拔掉插头。

在AI尝试互相学习的过程中，产生了一些看起来“令人毛骨悚然”的对话，对话以人类无法理解的姿势进行着“i”和“to me”的循环。奇怪的是Facebook的数据表明这个AI成功完成了谈判。他们发明了人类无法理解的交流方式......

（2）日本AI实验

在一项实验中，一名叫金井良太的神经科学家与AI研究人员，模拟了能够在现实环境中驾驶卡车的AI司机。要让这些司机爬坡，将“爬坡”设置为目标，然后由司机找出最佳路线。而当这个AI司机被赋予好奇心的复杂模型后，无需人类指示，施动者能主动将山坡识别为问题，继而找出爬坡方式。

目前AI已经尝试设计这种带有创新好奇心的复杂训练模型， 让AI生成自己的数据，自己设想未来可能出现的情境。灵活应对前所未遇的新状况。如果不确定未来将是何种状况，它们就会试着去想办法。

02

AI正向“奇点”靠近

近年来，人工智能出现了显著的发展，技术的推动促进人工智能向“奇点”靠近。

（1）“人脑”芯片正在被开发

“人脑”芯片可以从硬件方向对人脑物理结构的模拟。这种芯片在神经元之间方便快捷地相互沟通，只要接收到其他神经元发过来的脉冲(动作电位)，这些神经元就会同时做动作。

（2）德国科学家JürgenSchmidhuber提出哥德尔机的理论，哥德尔机被称为人类历史上第一台具备自我模拟、自我反省，甚至自我意识的人工智能机器。它能持续地搜索可提升自己效用的方案，改写自己的源代码，从而完成“自省”的学习过程，未来这种机器将会被开发出来。

02

有意识的AI降临，人类会怎样？

未来AI会产生意识的能力吗？AI会拥有超越人类的智慧吗？

霍金曾预言AI将给人类带来毁灭，“钢铁侠”马斯克也多次表示AI是“我们最大的生存威胁”。

著名人工智能思想家NickBostrom的理论认为，我们会面临——永生和灭绝。

根据历史规律，“所有生物终将灭绝”。至今存在过的生物中99.9%都已经跌落了生命的平衡木，如果一个生物继续在平衡木上走，早晚会有一阵风把它吹下去。Bostrom把灭绝列为一种吸引态——所有生物都有坠入的风险，而一旦坠入将没有回头。

其实AI有可能带来灭绝，但如果技术运用得当，人工智能可以帮助人类和其它物种，达到另一个吸引态——永生。

Bostrom认为物种的永生和灭绝一样都是吸引态，一旦我们达成了永生，我们将永远不再面临灭绝的危险——我们战胜了死亡和几率。所以，虽然绝大多数物种都从平衡木上摔了下去灭绝了，平衡木外是有两面的，只是至今为止地球上的生命还没聪明到发现怎样去到永生这另一个吸引态。