有哪些框架或工具支持上下文工程?
修改于 2026-07-06 15:10:06
511. 编排与检索框架
2. 记忆与压缩工具
- 记忆层:Mem0 、Zep 、Letta 等提供跨会话的智能体记忆能力
- 压缩:LLMLingua (微软研究院)等可在保真前提下缩减提示体积
- 缓存:主流大模型 API 提供上下文缓存能力,复用重复上下文可显著降低 token 成本
3. 可观测与治理
- Langfuse 、LangSmith 等可观测平台用于追踪上下文相关性、延迟与准确率,及时发现数据漂移
- Model Context Protocol (模型上下文协议,MCP )作为向智能体交付上下文的标准接口,使工具与上下文可在不同框架间互换