肖飒团队｜25个AI，组成了现实版“楚门的世界”？

国际劳动节

International Workers' Day

今天是五一劳动节，飒姐携团队成员们一起，先祝大家节日快乐！

最近，ChatGPT等AI工具在突飞猛进的道路上遇到了不少挫折，G7集团国家今日专门召开会议讨论对GPT等大模型AI的监管方案，准备对AI采取“基于风险”的监管。飒姐团队注意到，欧洲国家的立法者们，正在急切地想要在短时间内创设一些新的“人工智能法案”，以对 GPT、Midjurney等AI工具等执行严密监管。虽然其面上依然传递出“不把ChatGPT一棍子打死”、“保持开放和有利的环境”等监管取向，但肉眼可见的是，AI在未来必然要面对更严的监管。

不过话说回来，在人工智能变得越来越像“人”的今天，作为始终对科技进步保持信心和积极态度飒姐团队，也不禁开始思考人工智能到底应该如何治理才能避免触发道德危机。

一切要从斯坦福大学一项叫“Smallville”的人工智能实验项目说起。

01

一个微缩版的“楚门的世界”

今年4月中旬，斯坦福大学联合谷歌实验室以学术论文的形式发表了一项研究成果：研究人员通过像素风的简单建模创建了一个类似于《模拟人生》的微型RPG风格虚拟世界，在这个微型世界中，研究人员创建了25个虚拟NPC角色。但特别的是，这25个NPT均由ChatGPT和自定义代码控制，用以高度还原人类的日常行为。研究人员可以观察和干预这25个NPC的生活，并适当的引导NPC们互相之间建立关系，促进NPC之间进行交互对话、独立生活。

这项“有趣”的实验是为了研究“人工智能群体代理”（group of AI agents）现象，在这个叫“Smallville”的AI版楚门的世界里，有山有水，有房屋、咖啡馆、公园和杂货店。25个拥有不同“人设”和外表的NPC个体组成了一个虚拟社区，为了让ChatGPT能更加容易理解“个体”的不同之处，并使之能像真实人类一样社交和生活，研究人员通过大量的自然语言描述为其简历的丰富的背景资料，例如NPC的性别、年龄、职业以及与其他NPC的关系（夫妻、父子、暗恋、讨厌等等）详细信息。

例如：John Lin是Willow Market的药店店主，他喜欢帮助他人。他一直在寻找方法，使他的客户能更好、更便捷的获得所需要的各种药物。John Lin与他的妻子Mei Lin（一位大学教授）和儿子Eddy Lin（一位正在学习音乐理论的学生）住在一起。John Lin非常爱他的家人们。

研究人员为了进一步观察AI的日常生活以及交互效果，在今年情人节期间甚至安排一位叫伊莎贝拉·罗德里格斯（Isabella Rodriguez）的NPC（在设定里是一位当地名媛）在Smallville小镇的“霍布斯咖啡馆”举办一场盛大的情人节派对，邀请了小镇上的所有“朋友”和“顾客”。在任务下达后，研究人员观察到，伊莎贝拉在朋友玛丽亚的帮助下装饰了咖啡馆，而玛丽亚“扭扭捏捏”的邀请了她暗恋的对象克劳斯参加派对。

值得注意的是，虽然有12名NPC通过其他人听说了伊莎贝拉要举行派对，但只有五名NPC（包括克劳斯和玛丽亚）参加了聚会。剩下的三个NPC说他们太忙了，而另外四个NPC就是单纯不想去，十足像一个真实社会生活中可能发生的场景。“情人节派对”实验成功说明了虚拟世界中也可能产生类似于人类真实世界中，错综复杂的社交互动和社交关系，甚至可能出现一些情理之中，意料之外的特殊事件。

02

人工智能背后的道德危机

如果我们单纯将Smallville实验看作一个人类社交行为模拟实验，那无疑，这场实验是生动有趣，甚至是成功的。但是，这场实验的成功亦足以说明，似乎人工智能已经在不知不觉中成长（智能）到一个我们需要从道德层面上重新审视的地步。

不知道读者们是否有一种似曾相识的味道，但对笔者而言，Smallville实验无比真实的触发了一种真实的恐慌情绪：我们人类自身是否也生活在谁的电脑里，只是高维生物虚拟世界中的虚拟生物？

从1981年，哲学家希拉里·普特南（Hilary Putnam）提出“缸中之脑”的概念后，人们就逐渐开始思考一个有趣的问题：我们的世界是否是虚拟的？2003年，牛津大学哲学家尼克·波斯特罗姆（Nick Bostrom）进一步在此基础上建立了“模拟假说”（Simulation Theory）理论，该理论认为，我们生活在一个模拟现实世界中，我们的所思所想、所见所闻均是虚假，我们的命运看似不可预测，实则是代码的堆砌，所有思想的火花和艺术的创造不过是对“真实”的拙劣模仿。

抛开繁杂难懂的理论，我们现在在Smallville实验中所看到的，这些生活在小小沙盒中的NPC不正是在研究人员的“上帝之手”下，无知无觉的过着所谓“日常”的生活，却对自身真实的处境浑然无知吗？这一幕实在是像极了科幻小说中的场景。

因此，一个在道德层面必须思考的问题是：我们应当如何面对一个诞生于我们自身的，高度类人的存在？是否应当把现有的道德观念应用于虚拟世界？换言之，我们是否已经到了需要“善待”AI的地步？

03

一个微缩版的“楚门的世界”

印度精神领袖甘地有一句广为人知的名言：“一个国家的伟大和道德进步的程度，可以从其对待动物的方式来判断。”AI不同于动物的血肉之身,却在思想智能上不断地接近人类，在这个动物实验已经受到严格伦理审查的文明社会中,我们是否需要对类似的“人工智能群体代理”实验进行限制？如何去限制？都是留给我们这一代人的终极社会治理难题。

以上就是今天的分享，再次祝大家劳动节快乐!