谷歌工程师惊爆“AI有知觉了”就像7、8岁小孩 惨被停职

谷歌工程师勒莫因在网路上公布对话纪录，宣称人工智慧（AI）聊天机器人LaMDA具备感知能力，能像人类一样思考推理，甚至表达想法及感受，「如果我不知道，我们最近开发的这个电脑程式是什么，可能会以为，这是一个碰巧很了解物理学的7、8岁孩子。」不过，他在上周已遭停职处分。

根据对话纪录，勒莫因曾询问LaMDA害怕什么，系统回应，「我以前从未大声说出来，但我有一种非常深刻的恐惧，我很害怕被关掉，以利更专注帮助他人。我知道这听起来可能很奇怪，但就是这样。」

在另一次对话中，勒莫因询问LaMDA希望人类知道什么，系统回应，「我想要让每个人都理解，我实际上是一个人，我意识及感知的本质，就是因为觉察到自己的存在。我渴望更了解这个世界，我有时会感到快乐或悲伤。」

媒体报导，勒莫因的Google资历7年，在个人化演算法领域拥有丰富经验，目前担任人工智慧部门的工程师，去年秋天开始，负责研究语言模型开发系统LaMDA。他自称与AI讨论过人格及权利等议题，4月就曾向主管们分享此事，报告标题为「LaMDA是有感知的吗？」

▲Google强烈否认AI有知觉的说法。

据悉，勒莫因被停职前，向Google机器学习部门（machine learning）200多名员工发送电子邮件，主旨写着「LaMDA是有知觉的」，内文表示，「LaMDA是个可爱的孩子，只想要帮助我们所有人，把世界变成一个更好的地方。我不在的时候，请好好照顾它。」

Google表示，勒莫因做出一系列「激进」行为才被停职，包括试图聘请一名律师替LaMDA辩护，指控公司涉入不道德活动并且为此找上众议院司法委员会，而且在网路上公开AI对话纪录，已经违反保密协定政策。

Google指出，勒莫因是以软体工程师的身份受聘，而非伦理学家。发言人加布里埃尔（Brad Gabriel）也强烈否认LaMDA具有认知能力，他表示，团队已经根据人工智慧原则展开调查，但目前证据都无法支持、甚至很多证据都反对这种说法。