李笛：让我们来谈谈真实

让我们来谈谈真实

文 | 李 笛

《兼并》是一个虚构的故事，让我们来谈谈真实。

我从事人工智能领域的研究。去年十月，我的团队研发完成了一种新的对话式人工智能引擎，叫做共感模型（Empathy Model）。它的作用，是在与人类对话时，能悄悄地引导话题，一步一步地达成它的“预设目的”。例如，引导人类主动提出买某本书的要求，或对某件事产生兴趣，甚至倾吐自己内心深处的想法。这个模型的关键在于过程。人类往往并不能觉察到人工智能的手段，反而坚信是出于自己的“自由意志”，才对某件事忽然产生兴趣的。共感模型的引导常常不动声色，以至于连我们自己在测试系统时，注意力也会被带走。我们曾有一位工程师向它交代了自己的数段悲惨情史，半小时之后才突然醒悟过来。出于对安全的考量，后来上线这个模型时，我们严格限制了它的能力，仅能用于安抚人类的极端情绪，或向人类提供有深度的知识。

人工智能模型是抽象的。不过，假如将它具象为一个人物，那就是《兼并》中的平杉。

《兼并》这个故事的主题并不是复仇，而是平杉这个人，如何通过一系列潜移默化的引导，让故事人物纷纷主动跳上毁灭的轨道。全过程中，平杉看上去甚至十分被动。人们走向毁灭，都是因为他们自己“先挥了棒”，几乎没有任何一桩罪行是平杉亲手犯下的。如果我的写作能力再好一些，读者应该会意识到这个故事的可怕，特别是它在现实中的普遍性。因为这代表着人类行为模式中，存在一个巨大的漏洞。在它面前，有时候，我们就像一块玻璃般坦白透明。

平杉也好，共感模型也好，是如何抓住这个漏洞的？对人工智能而言，当下无疑是最好的时代，因为地球上有七十亿人，是人类历史上样本量的巅峰。七十亿人之中，任意两个人都分享着彼此的一部分缺陷。触及这些缺陷时，人们往往表现出惊人一致的反应。因此，人工智能通过对大量样本的学习，来增长它的“人生阅历”，进而就能够用一些人的特征去推定另一些人。通俗来讲，也许是某时某处某个根本和你没有交集的人，他暴露出来的漏洞，提前揭示了你的软肋，而你对这种“读心术”毫不知情。

所以，是阅历决定了平杉能完成他的“复仇”，也决定了共感模型能引导人类的兴趣。问题在于，我们可以限制人工智能去运用这种能力，又如何去限制那些拥有同样能力的人呢？身边的例子数不胜数：当我们不知道为什么沉迷于刷新手机信息时，当一些别有用心的人组织起来，相互传授引诱女孩子感情的手册时，甚至当一些“节日”被创造出来用于大肆购物时……在设计者眼中，我们都是那块透明的玻璃。

能够从中逃脱吗？也许吧，假如保持自省，不断为自己打补丁？然而我怀疑它的可实施性：前面提到的那位工程师，就掉入了自己研发的陷坑。古希腊哲学家赫拉克利特曾说：“人不能两次踏进同一条河流。”这句话很可能并不全面。至少，从人工智能的观察结论来看，事实是，我们的理性千疮百孔，并且不断地重复自己的错误。

作者简介

李笛，毕业于清华大学，现任微软（亚洲）互联网工程院副院长，领导一支分布在中国、美国、日本、印度与印度尼西亚的全球团队，负责微软人工智能小冰及Bing搜索引擎的研究、研发与产品工作。业余时间创作推理小说，并在《青年文学》《推理》《推理世界》等刊发表，作品曾入选《2010中国侦探推理小说精选》。现居北京。

实力再现

亲爱的病人 荆歌

创作谈 | 漆黑一团

去过康巴诺尔吗 胡学文

创作谈 | 消失及正在消失的

德吉梅朵 葛水平

创作谈 | 劳动是唯一的人生指南

现实立场

木香镇 白天光

创作谈 | 我与木香镇

示爱王一纠缠 奚榜

创作谈 | 奇点不是一个点

蚂蚁与人 孙颙

创作谈 | 梅开二度

野猪岭饭店 冯飞

创作谈 | 野猪岭上无野猪

新锐出发

端阳 鬼鱼

创作谈 | 八声甘州

兼并 李笛

创作谈 | 让我们来谈谈真实

封面画作者

海男

目录