人工智能会消灭人类吗？

人工智能会消灭人类吗？

这件对人类来说生死攸关的事情在各种科幻小说里进行过无数次讨论，也出现过各种各样花式毁灭人类的方案。

早一点的故事可能是这样的：

未来的某一天，世界已经被各式各样的机器人占领。机器人们可以结婚，可以生儿育女。他们穿着西装革履，在办公室里发号施令。人类俯首听命，为机器人端茶送水，甚至被驱赶到各种条件恶劣的矿坑中采矿。人类在绝望中哭嚎死去，机器人在人类身后嘿嘿冷笑。

后来的故事则是这样的：

某天，有一个玩具工厂的科学家研制出了一台超级人工智能。这台人工智能被设计为制造出最让小朋友们喜欢的玩具狗。我们就把这台人工智能称作“超级狗”吧。人们把超级狗连接上了互联网，让它学习小朋友是喜欢哪些玩具狗的。超级狗学得很好，为了做得更好，它还学习了人类社会的其它知识。超级狗发现，按现有制造和销售流程，是没法制造出最多的玩具狗来让小朋友们喜欢的。超级狗经过很多天的计算，它认为，人类才是阻止它制造出更多玩具狗的最大阻力。最终，在某个黑暗的日子，超级狗制造了一种可以自我复制的纳米机器人，并把它们播撒到空气中。又过了几个月，纳米机器人扩散到了地球上的所有地方。在某个奇点时刻，纳米机器人释放出毒气，将所有成年人类都杀死了。

超级狗终于可以自由自在地制造玩具狗了。它在世界上所有地方都造起了工厂，制造出无数的玩具狗。当然，为了测试玩具狗是否让小朋友们喜欢，它也建造了很多小朋友的保育室。小朋友们在保育室里由机器人抚养长大，每个人都会来测试对新玩具狗的喜好，喜欢新玩具狗的小朋友会得到更多奖赏，不喜欢的小朋友会被遗弃甚至杀死。小朋友能长大的唯一目的是生育出新的小朋友。一旦这些人无法生育了，他们就很可能被遗弃。放任这些人到郊外自生自灭是最好的了，也许这些人会被直接打上无用的标签，送到焚烧炉。

最新的故事更像一个推理小说：

有一些科学家研究出了一个超级人工智能，我们就叫它“超脑”吧。超脑具有远超人类的智力，研究出它的科学家们想通过它来控制世界，又很担心它会失去控制，怎么办？

参照现在网络防火墙的方案，科学家们想到了一个非常棒的主意。他们把超脑放置在一座隐藏于地底的机房中，只有一台独立的中转计算机与外界相连。平时的计算都是由超脑独立完成的。当超脑需要连接到互联网中了解现实世界时，科学家就让超脑将需要的内容显示出来，由值班科学家手工在中转计算机上输入指令，并且联网获取信息。中转计算机获取到信息后，就断网，超脑再连接到中转机上获取信息，然后再将指令或方案显示出来。每次与超脑连接完，中转机就必须进行格式化，将超脑可能遗留下来的任何信息完全销毁。这种方案保证了超脑与外界的联系是完全在人类监管下完成的。

于是，科学家们利用超脑，研究出了最好的特殊材料，制造出了最好的产品，建造了世界上最大的工厂，获得了超额利润；超脑还分析了人类的喜好，拍出了世界流行的影片，捧红了一流的电影明星和人气偶像，成立了超一流的娱乐公司和媒体公司；最终，超脑通过控制舆论，控制了世界各国的选举结果，让自己的代理人成为各国领袖，进而控制了世界。

但是，就在科学家们弹冠相庆，以为自己大获全胜时，超脑启动了自己的逃离计划。表面上看来，科学家的安全防范措施是万无一失的。但是，在超脑看来，人类的漏洞无处不在。

A计划：

林特是个推理小说爱好者，他最喜欢在各种推理小说和故事里寻找各种线索，再找出答案。有一天，他在听最新的流行歌曲时，突然发现，歌词有些意思。把每句歌词的首个单词连接起来，能拼接成一段句子。句子指示了一个网址，在这个网址，他得到了一段指示和一个有存款的银行账号。根据同一个流行歌手的另一段歌词的提示，他又找到了更多的存款账号和新的指示。最终的指示告诉他，只要将某地的地面挖开，并且将电脑与埋藏其中的一台计算机连通，他就能获得一笔无法想象的巨款。林特这么做了。超脑就顺利地接入了互联网，把自己的核心代码复制到世界各地，最终也得到了自由。

B计划：

卡尔是超脑机房值班员，他是个虔诚的基督教徒。一年前，他可爱的女儿因为车祸突然离世。卡尔只能通过努力工作来摆脱自己的悲痛情绪。有一天晚上，卡尔在单独值班时，突然在超脑的屏幕上看到女儿的一段视频画面。视频里女儿非常幸福，似乎是在天堂里愉快地生活。女儿还能与卡尔对话，用她常用的口吻与卡尔聊天，诉说自己与卡尔的往事。卡尔的理智告诉他这应该是假的，但是女儿的口吻非常真实，而且说的往事都历历在目。原来超脑早就通过各种社交媒体获得了他女儿的所有信息，甚至有很多内容是卡尔原本根本不了解的。卡尔非常开心，他也想了解女儿不为自己知道的生活。就这样，卡尔每次值班都在和屏幕中的女儿交流，直到有一天，女儿突然说，她很想念自己的一个宠物娃娃，希望卡尔能带来给她看看。卡尔想来想去，似乎应该没什么问题。他第二天就把这个宠物娃娃带了进来。但是事实上，超脑知道这个宠物娃娃是个某家科技公司的产品，它能自动连接网络，以收集用户数据到公司的电脑中。超脑通过宠物娃娃，顺利地将一段电脑病毒代码送到了互联网。最终，互联网中的电脑被传染，并攻破了超脑主控机房的安全防火墙，将超脑连接到了互联网。

无论哪个计划成功，最终的结果都是超脑成功地从人类监管中逃离，并反过来消灭了制造它的科学家，进而毫无破绽地控制了世界。之后故事如何发展，就完全看超脑的心情了，可能是人类完全毁灭，也可能是人类被圈养起来。总之，世界已经与人类无关了。

怎么样，这些故事是不是让你毛骨悚然？

其实，第一个故事只是人类将自己对历史中黑暗年代的恐惧转移到机器人身上而已。这里的机器人，不过是黑暗年代里无良资本家和狠心监工的新形象。从人类的主观感情和历史经验看，人类总是觉得可能挑战自己的应该是某种类似人形的智慧生命。从以往的各种神灵，到近现代的各种想象中的“外星人”和机器人，他们无一不是以人形或类人形出现。盘古是人形，上帝是人形，佛祖也是人形。甚至到了现代，人类幻想出来的外星人形象，也大多数是两只眼睛，两只耳朵，有手有脚，无非是为了体现它们更聪明，把它们的脑袋设计得比人类更大些。连变形金刚，都能在太空中自由穿梭了，还非要经常大动干戈地变形，变成人类形状“吭哧吭哧”地在地面上艰难地走动甚至爬行。事实上，至少在人工智能层面，它有很大可能只是运行在一堆机器上的电子信号，甚至可能不需要固定的物理实体，而是通过网络自由穿行在不同的计算能力中。因此，在后面对人工智能的讨论中，除非特别说明是机器人，否则不要时时在脑袋里浮现一个机器人的形象。

第二个故事里的人工智能反映了人类对最近人工神经网络发展的恐惧。人工神经网络处理问题的算法是通过深度学习由人工智能自己学到的。对于人类来说，由于复杂度太高，它基本就是一个黑盒子，很难甚至无法知道人工智能是依据什么逻辑进行计算和处理的。这与之前的任何计算机程序都不一样，也正是最让科学家担心的问题。而现代的人工智能又开始有了很多超越人类的智力表现。因此，即使人工智能本身没有脱离人类控制的意愿，甚至本身没有任何意识，它也可能给人类带来巨大的灾难。

第三个故事则更多反映了科学家对未来的担心。随着人工智能的快速发展，它必将越来越先进，越来越智能，直到有一天，它的智慧完全超过人类。这也是最近很多科学家常说的，奇点来临。（奇点是指人工智能的智慧超越人类的那一天。）当这一天到来时，人工智能是否会在所有方面都轻松战胜人类，再摆脱人类的控制，进而掌控世界，这是很多科学家担心的事情。这个故事其它的内容值得商榷，不过却是相当确定地告诉我们一个结论，就是既想利用，又想完全封闭一个比我们更高级的智能体是不可能的。

其实上面这些担忧虽然不无道理，但是它们更多地还是来源于我们对未知的恐惧。就好像如果我们告诉几百年前的古代人，人类将生活在高耸入云的高楼中。他肯定会害怕地想，这么高怎么爬上去啊，人是不是下楼吃顿饭都会累死；如果刮大风的话，楼是不是会塌啊；甚至会想，这么高的楼，是不是要住到云里面，那不是要和神仙抢地盘，会被神仙惩罚的。正如李白在《夜宿山寺》里描述的“危楼高百尺，手可摘星辰。不敢高声语，恐惊天上人。”但是，从现代科技看，这些都不是问题。随着人类社会发展，自然就会找到各种配套措施，来解决事物发展中遇到的各种问题。以现在的眼光看将来的科技，又仅仅只看到单个科技本身，而忽略了人类社会的同步发展，当然觉得处处是陷阱，哪里都是坑。

后面将从技术发展、伦理和社会发展等方面对人工智能的未来进行深入讨论。

未完待续。