上下文工程在 AI Agent 中怎么落地？

1. 动态组装上下文

• 智能体每步推理前，系统动态拉取系统提示、工具定义、长期记忆、检索知识与当前指令，而非一次性填满窗口
• 信息应"按需注入"，只把当前步骤真正相关的片段送入窗口，控制 token 预算
• 生产级 Agent 的上下文由上述多个槽位组合而成，其中多数槽位每轮动态生成，这正是工程化的核心

2. 上下文管理技术

• 压缩（Compaction）：长时程任务中压缩历史，保持对话连贯
• 结构化笔记 / 智能体记忆：把进度写入窗口外存储，跨会话保持状态
• 子智能体架构：用隔离的上下文窗口处理子任务，主智能体专注综合与决策
• 即时（Just-in-Time）检索：维护轻量引用（文件路径、查询、文档 ID ），运行时再加载细节

3. 生产部署与平台

• 在腾讯云上，可基于腾讯云混元大模型作为基座，结合腾讯云 TI-ONE 进行模型服务与编排
• 检索增强环节可结合腾讯云向量数据库与腾讯云 ES 构建知识注入链路
• 关键原则始终是：用最小集合的高信号 token ，最大化达成目标行为的概率