为什么大模型应用需要上下文工程？

1. 上下文窗口是稀缺资源

• 上下文窗口是模型在单次推理中能够注意到的全部 token ，容量有限，并非"越长越好"
• 随着上下文变长，模型对其中信息的回忆准确率会下降，这种现象被称为"上下文腐烂（Context Rot）"
• 把海量信息无差别地塞入窗口，反而会让模型在噪声中丢失当前目标

2. 单轮提示无法支撑多步任务

• 智能体在循环执行"观察—推理—行动"时，每一步都会产生工具输出、检索结果与中间推理，信息量随步数膨胀
• 缺乏上下文管理，长对话会失去连贯性，智能体无法跨步保持状态与依赖关系
• 上下文工程决定哪些信息在正确的时刻出现在窗口内，这是优质与劣质 Agent 输出差异的关键

3. 可扩展性与一致性要求

• 当系统服务于大量用户与高频会话时，手工调参的维护成本急剧上升
• 上下文工程以可复用、可观测的系统设计替代逐条调提示，保障输出在数千次会话间的一致与稳定
• 企业落地场景下，业务规则、实时数据与合规要求往往只能通过结构化上下文注入，而非写死在模型权重中