为什么AI大模型容易误认为strawberry里有2个r？

为什么AI大模型容易误认为strawberry里有2个r？

2025年2月，AI大模型在回答“strawberry”这个单词中有多少个字母“r”时，频频出现错误，许多模型都回答为2个，而非正确的3个。这一现象引发了广泛关注和讨论，究竟是什么原因导致了这一问题？本文将从技术角度进行深入分析。

Tokenization的影响

大模型在处理文本时，首先需要将文本转化为可处理的Token。Tokenization（分词）是将文本切分为一个个Token的过程，但这一过程并不总是直观的。例如，“strawberry”这个单词在某些模型中可能被切分为“str”、“aw”和“berry”三个Token。这种切分方式使得模型难以直接识别出所有的“r”字母，因为它将“rr”视为两个独立的Token，而非一个字母的组合。

模型推理能力的限制

大语言模型（LLM）本质上是通过预测下一个Token的概率分布来进行工作的，而非真正的“思考”。这种基于统计的预测模型在处理需要精确计数的任务时，往往表现不佳。即使是在计数单词而非字母时，模型也会出错，这表明LLM在处理精确计数任务时存在普遍性问题。

提示词工程的作用

为了提高模型的准确率，研究人员尝试通过调整提问方式来引导模型进行正确的推理。例如，在问题中加入“让我们一步步思考（Let’s think step by step）”等提示语，可以帮助模型逐步展示其推理过程，从而提高其理解和解决复杂问题的能力。这种方法在一定程度上缓解了模型的“幻觉”现象，但并不能完全解决所有问题。

深度思考模型的优势

与传统的快思考模型不同，深度思考模型（如DeepSeek R1系列）在训练过程中就具备了生成思维链（Chain-of-Thought, CoT）的能力。这些模型能够根据已经生成的内容，反复检验，多次确认，因此在回答类似“strawberry”中有多少个“r”这样的问题时，成功率显著提高。

结论

AI大模型容易误认为“strawberry”里有2个“r”，主要是由于Tokenization的处理方式、模型推理能力的限制以及缺乏有效的提示词引导所致。尽管如此，通过改进提示工程和采用深度思考模型，可以在一定程度上缓解这一问题。未来，随着技术的不断进步，AI大模型在处理类似任务时的表现有望得到进一步提升。