KV 缓存中的 Key 和 Value 具体缓存的是什么内容？

1. Key 表征 token 的检索线索

每个 token 经投影得到键向量，用于和后续 token 的查询做点积以衡量注意力相关性。键可以理解为该 token 在注意力机制中的"身份与检索标签"，决定它在未来被其他 token 关注时的匹配程度。

2. Value 承载 token 的实际信息

值向量是注意力聚合时真正被加权求和提取的内容。当某个后续 token 通过查询与历史键匹配上之后，对应的值向量中包含的语义信息会被按权重汇聚到当前表示中，因此值承载的是 token 的实际语义内容。

3. 只缓存 Key 与 Value 而非 Query

查询向量只在"当前正在生成的新 token"上被使用，它在计算完自身这一步的注意力后即失去复用价值，因此不参与跨步缓存。由于被持久保存的只是键与值，这一机制被称为 KV 缓存而非 QKV 缓存。