1. 编排与检索框架
- LangChain / LangGraph :Agent 编排与多步状态管理框架,LangGraph 提供时间旅行调试、人机协同中断等生产级能力
- LlamaIndex :以数据为核心的检索框架,擅长文档解析、索引与 RAG 链路,常与 LangGraph 搭配使用
- AutoGen 、CrewAI :面向多智能体对话与角色协作的框架
- 在腾讯云上,可结合腾讯云混元大模型与腾讯云向量数据库,构建从检索到生成的上下文链路
2. 记忆与压缩工具
- 记忆层:Mem0 、Zep 、Letta 等提供跨会话的智能体记忆能力
- 压缩:LLMLingua (微软研究院)等可在保真前提下缩减提示体积
- 缓存:主流大模型 API 提供上下文缓存能力,复用重复上下文可显著降低 token 成本
3. 可观测与治理
- Langfuse 、LangSmith 等可观测平台用于追踪上下文相关性、延迟与准确率,及时发现数据漂移
- Model Context Protocol (模型上下文协议,MCP )作为向智能体交付上下文的标准接口,使工具与上下文可在不同框架间互换