我们在自我毁灭的边缘

赫拉利一步步靠他的著作，把关注人类的眼光从历史看到未来。

在《智人之上》这本书，他提出一个重大的质问：

人工智能到底把人类带向何方？人类是否真的为AI做好了准备？

赫拉利显然不认为，技术一定给人类带来福音，而且人类也没有为AI时代到来做好准备。

改变现代人生活的工业革命，背后也是一代农民的失业史和千万殖民地原住民的苦难史，这些人成为历史的背景板，无人关注。

但问题是我们，还活着的这些人，会不会成为人工智能超越人类后的背景板，其实人类对自己的命运，一无所知。

收音机的发明创造了人类第一个大规模网络，但是最早让收音机的传播功能发挥得淋漓尽致的是纳粹德国，一个给人类带来无穷灾难的魔鬼。

而人工智能显然更不可预测。

赫拉利指出拥有超越人类智能的计算机，并不困难，在国际象棋，围棋，电竞游戏很多领域，计算机已经证明自己比人类更擅长解决难题，但这不等于计算机就拥有人类的意识。

也许计算机中涌现出意识这一天还很漫长，但如果你告诉人工智能，你的任务是制造尽可能多的回形针。也许超级计算机会选择消灭人类，仅仅是它意识到人类消耗越来越多的资源，是它制作更多回形针的障碍。

坚决执行人类指令的超级人工智能，可能会反噬人类，恰恰因为它们没有意识，但拥有超级智能。

我们以为这样的思想实验只是实验，但是现实已经告诉我们，拥有人工智能的算法得到的指令是：让用户更加喜欢使用我们的软件，增加他们的互动率。

算法发现真正有助于激发用户互动率的内容是：激发仇恨的内容。

正是脸书扩散的激发对罗兴人的负面仇恨内容，造成了2015年的大屠杀。

没有人觉得自己应该对此负责。

同样今天的网络到处都是极端的内容，夸张的内容，理性平和的言论难以容身，这就是拥有人工智能的算法，没有意识，但是忠实执行了人类的要求。

而拥有数据和算法的少数人，恐怕也很难意识到他们创造了一个怎样的怪物。

20世纪人类的错误代价是两次世界大战，21世纪人类犯错的代价也许是没有人类了。

赫拉利的历史观很独特，读他的书总能想到很多。

他认为维系人类这样庞大的社会网络，不是靠真相或科技，而是故事和官僚机制。

故事来自对人类情感的激发。

情感来自基因里的记忆，比如孩子害怕被父母抛弃（对动物意味着死亡），兄弟残杀（为争抢食物的内斗），恋情（对配偶的争夺），探险（尝试新食物，新行为，新领地对动物都是高风险），财富继承（生存资源的争夺）。

人类永远对这些故事着迷，本质是这些故事和我们基因里的记忆共鸣，谁打开这些故事密码，谁就能说服人群跟随。

算法很快就理解了这一点，让我们被自己内在的情感基因左右，难以逃脱流量陷阱。

一个复杂社会结构，不能只靠故事维系，还得有管理机制，人类社会的良性运作离不开官僚机制。

普通人很难理解自己的命运是如何被一套官僚机制背后的一个人的决定左右，就好像绝大部分人不理解自己生活的难易居然可以被美联储加息降息左右，他们更愿意相信自己的幸福是被另一群人抢走了，这样树敌简单粗暴有效，却一次次被人利用把人类推入深渊。

拥有理性是人类的稀缺品质，即便是AI来统治人类，恐怕也是AI更加得心应手去操纵人心，人类历史无非从族群大战进入民族大战，然后是主权国家大战，最终是不同信仰的AI之战。

精英人群掌握官僚机制，但精英人群并不见得愿意让世界的发展慢一点，谁慢谁就可能被别的精英人群取缔，在基因里人类永远是那个要为生存资源拼死一战的野兽，即便是精英，也是困境里的囚徒，做任何一种选择，恐怕都是一条前途莫测的道路。

更何况技术的进步一定带来生活质量提升，但不一定带来群体智慧的增长，而是助长古老的野心。

人工智能掌控的算法，今天第一次拥有了对全人类全方位低成本的监控和分析能力，拥有这种数据，就拥有了权力。

新的权力，必然导致诞生新的王者，我们只能指望，我们有运气遇到一位富有智慧的新王。

至少未来人类的救星不是扎克伯格，不是马斯特，也不是奥特曼，更不是张一鸣。