AI要成为好同志

这不完全是个段子。

过去一周多的OpenAI版"权力的游戏"，所有业内人士应该都了解到，原来象征人类科技文明顶流的硅谷，也有甄嬛传式的宫斗戏码；而宫斗各方围绕的人工智能路线抉择，EA vs. E/ACC，即所谓的担心人工智能安全性的"有效利他主义"对决支持无限加速的"有效加速主义"，也让更多大众认识到，"机器毁灭人类"的戏码，不再只出现于小说或电影剧本中，而是真的怼脸上了。

通俗来说，E/ACC人士就是最积极的技术原教旨主义，把技术当成宗教，信奉更先进的技术才能更好的推动文明产生质变；而EA担心的是，无限制的技术发展，会威胁到人类生存。

前两年打败人类围棋高手的阿尔法狗人工智能，大家只是觉得他在围棋算法方面很牛逼，而EA派担心的是你给阿尔法狗布置活儿，让他在各种智力竞技中胜过对面的人类选手，然后随着它的不断进化和觉醒，早晚有一天它会认为：与其费力的去学各种技能，不如把面前的人类消灭，不是能够更高效的"胜过人类"吗？

核心就是一个"阈值"，当有一天人工智能超越人类大脑的时候，后续发生的一切可能就不是我们所能预料和掌控的了。

正因如此，EA派对于人工智能的态度就是必须要灌输"价值观"，哪怕这会严重拖慢AI的进化和应用步伐——这当然就与E/ACC产生了根本性的矛盾。

EA vs.E/ACC的对决，不只是OPENAI这一家公司内部的宫斗和控制权之争，也可能是人类文明发展历程的十字路口。而且这可能绝不是危言耸听，国内的"文心一言"们早晚也会面对这个问题。

不过这在国内又不是一个问题——让AI宣个誓，成为伟光正的"ChatGPT同志"、"文心一言同志"，不就行了？完美。