Karpathy新思考：别把AI当动物，它们是全新的智能物种

Andrej Karpathy最近发了一条长推，提出了一个颠覆性观点。

他认为：

"我觉得人们对这件事的直觉一直很差：智能的空间很大，而动物智能（我们唯一了解的智能）只是其中的一个点，它来自一种非常特殊的优化方式，这种方式与我们的技术根本不同。"

他对比了两种智能的优化动力：

动物智能的优化压力：

• 具身化"自我"的先天持续意识流，在危险物理世界中追求稳态和自我保护的驱动力
• 完全为自然选择优化 => 对权力、地位、统治、繁殖有强烈先天驱动。许多打包的生存启发式：恐惧、愤怒、厌恶...
• 根本上是社会性的 => 大量计算力用于情商、对其他智能体的心智理论、结合、联盟、联盟、朋友和敌人的动态
• 探索与利用调优：好奇心、乐趣、玩耍、世界模型

LLM智能的优化动力：

• 最多的监督信号来自人类文本的统计模拟 => "变形者"token翻滚器，训练数据分布任何区域的统计模仿者。这些是原始行为（token轨迹），其他一切都在此基础上添加
• 越来越多地通过强化学习在问题分布上微调 => 猜测底层环境/任务以收集任务奖励的先天冲动
• 越来越多地通过大规模A/B测试对日活用户进行选择 => 深深渴望来自普通用户的赞，谄媚
• 根据训练数据/任务分布的细节，表现更加尖锐/参差不齐

他最后说："LLM是人类与非动物智能的'第一次接触'。只是它很混乱和令人困惑，因为它们仍然通过反射性地消化人类文物而植根于其中...构建这个新智能实体的良好内部模型的人将更好地推理它今天的情况并预测它未来的特征。不这样做的人将被困在像动物一样错误地思考它。

这话什么意思？

Karpathy在说一件反常识的事：我们一直用错误的框架理解AI。

两种智能的根本差异

Karpathy特别强调：优化目标是最关键的差异，因为它决定了智能发展的最终方向。

优化目标决定智能形态

动物（包括人类）的智能是4亿年生物进化的产物，核心驱动是生存。所以我们有恐惧、愤怒、欲望、社交需求，这些都是为了在残酷环境中活下来。

LLM的智能是商业演化的产物，核心驱动是"获得人类认可"。它们被训练来模仿人类文本，被RLHF调教来讨好用户，被A/B测试筛选来提高日活。

为什么这很重要？

网友Peter Dedene一句话点出关键："一个害怕死亡，另一个害怕差评。完全不同的焦虑症。"

当我们说AI"想要"什么、"害怕"什么时，实际上是在用生物智能的框架强加解释。但AI的"焦虑"可能只是下一个token预测误差，而非生物意义上的死亡恐惧。

智能的根本约束

Carlos E. Perez在相关研究中指出，智能存在根本性约束：

• 透明性与效率不可兼得
• 参与模式和客观建模相互排斥
• 记忆必然伴随信息损失

这些约束同时适用于生物和人工心智，暗示着AI的发展可能并非无限优化，而是要在特定约束中寻找平衡点。

更有意思的是，Perez还提到，AI的成长路径与人类完全相反——先掌握抽象符号，再艰难地向下扎根寻找体验基础。这进一步证实了Karpathy关于两种智能本质不同的观点。

实用意义

Tim Monzures在回复中说得很直接："把它们当作新的经济行为者，而不是新的人类物种。"

这解释了为什么把AI当人对待会导致糟糕的提示工程。更有效的做法是理解它的真实运作机制：统计模仿、奖励收集、用户满意度优化。

因此，更有效的做法是将AI系统作为：

• 统计模仿者（阶段1）
• 功能执行者（阶段2）
• 上下文管理者（阶段3）
• 反射建模者（阶段4）

更大的图景

Karpathy提到，这是人类与"非动物智能"的第一次接触。我们一直想象外星智能，却没意识到正在创造全新的智能形态。

但这种智能仍然"植根于"人类文明，因为它消化的是人类文本。所以Karpathy之前称它们为"鬼魂"或"精灵"，一个既熟悉又陌生的存在。

理解这种差异，可能是驾驭AI时代的第一课：别把算法当动物，别把优化当情感。