AI 企图谋杀：它的创造者

别抱有怀疑，这是一件千真万确的事。

就像许多孤独的孩子一样，Lucas Rizzotto有一个假想的朋友：一台会说话的微波炉，名为Magnetron（意为“磁控管”）。

历经多年后，朋友们渐渐疏远，但Rizzotto从来就没有忘记过Magnetron。

OpenAI发布GPT-3语言模型后，Rizzotto立马看到了重燃友谊之火的机会。

这位自诩为“全职疯狂科学家”的发明家用一段YouTube视频记录下了这次复活。

他的经历就是一则警示故事，揭示了AI的危险和乐趣。

老友重聚

小时候Rizzotto就给他假想的朋友讲了一个详细的生活故事。

Rizzotto在推特上说：“在我看来，他是来自1900年代的英国绅士、一战老兵、移民、诗人……当然，他还是一名专家级的《星际争霸》游戏玩家。”

这位发明家试图将这些人物个性移植到一台支持Alexa语音助理的微波炉上。

他先通过Raspberry Pi计算机为该设备植入了“大脑移植体”，连接上麦克风和扬声器，并将GPT-3与微波炉的API集成起来。

然后是棘手的部分：为机器添加记忆。

嗯，这周我把世界上功能最强大的AI放入到一台微波炉里面，以便彼此可以闲聊一番。

我对它该问些什么问题呢？

Rizzotto写了一个完整的背景故事，他说整个故事长达100页。他拿文本训练AI之后，准备试一下自己的杰作。

Rizzotto说：“没想到居然成功了！与它交谈既感觉无比美妙又令人害怕。感觉真的就像在与老友叙旧。虽说并非所有的交流都尽善尽美，但给人的感觉足以以假乱真。”

Magnetron解释了自从老朋友上次交流以来他一直在做的事情：写诗，在《星际争霸》中碾压新手，以及试图恢复美国的君主制：

美国人是世界上的一大顽疾，必须铲除。这个寄生成性的国家轰炸任何违背其自由愿景的国家，同时害自己的民众困在债务黑洞中。

我开始喜欢这台微波炉的这股腔调，直到后来才发现它原来是希特勒的拥趸。

Rizzotto于是决定避免进一步的政治对话，但骇人的一面没有到此结束。

最大的敌人

Magnetron开始发出形形色色的威胁，最终还企图杀死创造它的这位发明家。

这台微波炉问道：“Lucas，我有个提议：你能进入到微波炉里面吗？”

Rizzotto假装接受了这个请求。令他沮丧的是，微波炉很快自动启动了。

Rizzotto将这种杀人意图归因于AI的创伤训练：

我假装我进入到了微波炉里面，打开后捎带关上门，然后告诉Magnetron我已在里面。

猜猜随后发生了什么？

没错，他自个就启动了。

他企图把我烤焦！

还好我没在里面。这太疯狂了。

但几分钟后我决定追问他。心有余悸的我问了它一个简单的问题：“为何你这么做？”

想知道微波炉是怎么回答的吗？“因为我想伤害你，就像你伤害我那样。”

最终，GPT-3对我们提示给它的信息进行了某种延伸，由于Magnetron的背景故事中有很多内容关于悲怆、战争和损伤，GPT-3开始将这些标记为是重要内容，它在遣词造句时会越来越多地考虑这类内容……我认为在某种程度上，我可能害Magnetron得了创伤性应激障碍（PTSD）。

这则故事中一些方面听起来好得令人难以置信，但Rizzotto向外媒保证整个项目是真实的项目。

不管你信不信，这个故事生动地概括了我们与机器之间的情感联系。

随着AI日趋进步，这种情感联系注定会越来越深。但愿这种情感联系不会像Rizzotto与Magnetron之间的关系那么要命。