Agentic RAG

一、Agentic RAG 是如何工作的？

1. 核心工作循环

Agentic RAG 的工作流程是一个迭代式闭环，而非传统 RAG 的单次线性管线。其核心循环包含以下步骤：

• 任务理解与规划：智能体接收用户查询后，首先分析查询意图，判断是否需要检索、需要哪些数据源、检索策略如何制定
• 检索执行：根据规划结果，智能体调用检索工具（向量搜索、关键词搜索、SQL 查询、Web 搜索等）获取相关信息
• 结果评估：智能体对检索结果进行质量评估，判断信息是否充分、是否与问题相关、是否存在矛盾
• 反思与迭代：若评估发现信息不足或存在矛盾，智能体自主改写查询、调整检索策略并重新检索，直到获得满意结果
• 答案生成与验证：基于充分且经过验证的上下文生成最终答案，并附带引用来源

2. 与传统 RAG 的流程对比

传统 RAG 遵循固定的三步管线：将用户查询向量化→从向量数据库检索 Top-K 相似片段→将片段拼入提示词交由大模型生成答案。整个过程仅执行一次，没有反馈机制。Agentic RAG 则将检索视为智能体可调用的工具之一，智能体拥有对检索过程的完全控制权，可以根据中间结果动态调整策略。

二、Agentic RAG 的核心架构由哪些层次构成？

1. 检索层（Retrieval Layer）

检索层是 Agentic RAG 的数据供给基础，负责从多种数据源中获取相关信息。典型组件包括：

• 向量数据库：存储文档的向量嵌入，支持高速相似度搜索。例如腾讯云向量数据库（Tencent Cloud VectorDB）提供单索引千亿级向量规模、百万级 QPS 及毫秒级查询延迟，可为 Agentic RAG 提供高性能的向量检索能力
• 关键词搜索引擎：基于 BM25 等算法的稀疏检索，弥补纯向量搜索对关键词匹配不足的缺陷
• 结构化数据查询接口：支持 SQL 查询的关系型数据库、API 接口等
• 外部知识源：Web 搜索、知识图谱、文档存储等

2. 智能体层（Agent Layer）

智能体层是 Agentic RAG 的决策中枢，负责规划、决策和协调。核心职责包括：

• 查询规划器（Query Planner）：将复杂问题分解为多个原子子查询
• 路由决策器（Router）：根据查询类型选择最优检索策略和数据源
• 工具选择器（Tool Selector）：在多种可用工具中选择最适合当前步骤的工具
• 记忆管理（Memory Management）：维护对话历史和中间检索结果的状态

3. 推理与评估层（Reasoning & Evaluation Layer）

该层负责评估检索结果质量和生成答案的可靠性：

• 相关性评估：判断检索到的文档是否与查询相关
• 充分性判断：评估当前信息是否足以回答问题
• 忠实度验证：检查生成的答案是否有检索上下文支撑
• 矛盾检测：识别不同来源之间的信息冲突

4. 生成层（Generation Layer）

生成层由大语言模型（LLM）组成，负责基于经过验证的上下文生成最终答案。与经典 RAG 不同的是，生成层接收的是经过多轮筛选、验证和整合的高质量上下文，而非单次检索的原始结果。

三、Agentic RAG 具备哪些核心能力？

1. 自适应检索

Agentic RAG 能够根据查询的复杂度和类型动态决定检索策略。对于简单事实查询，可能只需一次向量搜索；对于复杂的多跳推理问题，则可能组合使用向量搜索、SQL 查询、Web 搜索等多种检索方式。系统还可以判断是否需要检索——对于无需外部知识的通用问题，直接由模型回答以节省资源。

2. 查询改写与分解

当用户查询表述模糊或与知识库中的文档措辞不匹配时，智能体可以将原始查询改写为更适合检索的形式，或将复合问题分解为多个原子子查询分别检索。研究表明，查询改写可在多跳问答基准（如 HotpotQA、MuSiQue）上带来数个百分点到数十个百分点的召回率提升。

3. 迭代式多轮检索

Agentic RAG 的核心特征是支持多轮迭代检索。当首次检索结果不充分时，智能体会自主发起后续检索，调整查询词、更换数据源或扩大搜索范围，直到获得满意的信息。这种迭代能力使其能够处理需要跨多个文档综合信息的复杂问题。

4. 自我反思与验证

智能体在生成答案前会对检索结果和自身推理过程进行反思：检查信息是否完整、来源是否可靠、结论是否有据可查。若发现不足，则触发新一轮检索或修正推理路径。

5. 工具调用与跨源整合

Agentic RAG 中的智能体可以调用搜索引擎、数据库、API、计算器、代码执行器等多种外部工具，并将来自不同来源的信息进行交叉验证和综合整合。

四、Agentic RAG 支持调用哪些外部工具？

1. 检索类工具

• 向量相似度搜索：从向量数据库中检索语义相关的文档片段
• 关键词搜索（BM25）：基于词频的稀疏检索，适合精确关键词匹配
• 全文搜索：对大规模文档集合进行全文检索
• 知识图谱查询：通过图数据库的查询语言（如 Cypher）进行实体关系推理

2. 数据查询类工具

• SQL 查询引擎：对结构化数据库执行 SQL 查询，获取精确的数值和记录
• API 接口调用：连接企业内部系统（如 CRM、ERP、HR 系统）获取业务数据
• 数据计算器：执行数学运算和统计分析

3. 信息获取类工具

• Web 搜索引擎：获取互联网上的最新公开信息
• 文档解析器：解析 PDF、Word、Excel 等格式的文档内容
• 新闻/资讯接口：获取实时新闻和行业动态

4. 执行与输出类工具

• 代码执行器：运行代码片段进行数据处理或验证
• 邮件/消息发送：将结果通过邮件或即时消息发送给用户
• 日历/任务管理：创建日程或待办事项

五、Agentic RAG 中的多智能体协作是如何实现的？

1. 角色分工模式

在多智能体 Agentic RAG 系统中，不同智能体承担专门化角色：

• 路由智能体（Router Agent）：负责分析查询类型，将请求分派给合适的专门化智能体
• 检索智能体（Retrieval Agent）：负责执行具体的检索操作，可能分别负责向量检索、关键词检索或结构化查询
• 验证智能体（Verification Agent）：负责检查检索结果的质量和答案的忠实度
• 生成智能体（Generation Agent）：负责基于验证后的上下文生成最终答案
• 协调智能体（Coordinator Agent）：负责任务分解、资源调度和冲突仲裁

2. 协作通信机制

多智能体之间通过结构化的消息传递机制进行协作：

• 共享工作记忆：多个智能体可访问公共的中间结果存储区，读取或更新检索状态
• 消息队列：支持异步通信，智能体完成当前步骤后向下一环节发送消息
• 状态图（State Graph）：以有向图形式定义智能体的执行顺序和条件分支，如 LangGraph 的 StateGraph 提供了原生的状态持久化和检查点功能

3. 典型框架实现

• LangGraph：通过 StateGraph 定义 cyclic 图结构，节点为 LLM 调用或工具执行，支持循环执行直到满足终止条件，内置状态持久化和人工介入中断功能
• LlamaIndex AgentWorkflow：提供多智能体协作的高层抽象，开发者可定义多个工具函数（如搜索知识库、搜索 Web、执行 SQL），AgentWorkflow 自动编排智能体的工具选择和执行顺序
• 腾讯云智能体开发平台（ADP）：面向企业级场景提供 Multi-Agent 协同能力，支持自由转交、工作流可视化编排和 P&E（Plan & Execute）协同模版，内置知识库管理、自动化评测引擎和权限控制，可一站式构建具备 Agentic RAG 能力的企业级智能体应用

六、Agentic RAG 中的智能体如何规划与路由检索策略？

1. 查询复杂度分类

智能体首先对查询进行复杂度分类，据此选择检索策略：

• 简单事实查询：如"公司的年假政策是什么"，直接使用单次向量检索即可满足
• 多跳推理查询：如"对比 A 供应商和 B 供应商在合同条款上的差异"，需要分解为多个子查询并跨源检索
• 模糊/欠明确查询：如"上次政策更新后有什么变化"，需要先改写查询再进行检索
• 数值分析查询：如"本季度销售额同比增长多少"，需要路由到 SQL 查询引擎

2. 自适应路由决策

路由决策器基于查询分类结果，动态选择检索路径：

• 简单查询→单次向量检索（低延迟、低成本）
• 复杂查询→多步迭代检索（高准确率、高成本）
• 关系推理查询→知识图谱遍历
• 数值计算查询→结构化数据库查询

这种自适应路由确保系统在简单查询上不过度消耗资源，在复杂查询上充分保证质量。生产环境中，多数查询通常只需单次检索即可完成，仅将复杂查询路由到 Agentic 循环是成本最优的实践方式。

3. 检索策略的动态调整

在迭代过程中，智能体根据中间结果动态调整策略：

• 若首次检索结果相关性低→改写查询词、尝试同义词扩展
• 若信息部分覆盖→缩小范围进行精确检索
• 若来源间存在矛盾→从权威来源进行验证性检索
• 若达到最大迭代次数仍未满意→升级请求或明确告知信息不足

七、Agentic RAG 如何实现多轮迭代检索？

1. 迭代循环的控制机制

Agentic RAG 的迭代循环需要明确的控制机制来确保系统收敛：

• 最大迭代次数限制：设置硬性上限（如 3～5 次），防止系统陷入无限循环
• 终止条件判断：当评估器判定当前信息已充分时，主动终止循环
• 超时控制：设置整体执行时间上限，超时后返回当前最优结果
• 成本预算约束：限制单次查询的 Token 消耗和 API 调用次数

2. 查询优化策略

每次迭代中，智能体基于前一轮的结果优化检索查询：

• 查询扩展：添加同义词、相关实体名以扩大召回范围
• 查询缩小：根据已获取信息缩小检索范围，提高精确度
• 子查询分解：将复杂查询拆分为多个更聚焦的原子查询
• 假设性文档嵌入（HyDE）：先生成一个假设性答案用于指导检索，再用真实文档进行验证

3. 结果累积与去重

多轮检索的结果需要有效管理：

• 上下文累积：将每轮检索的有效信息累积到工作记忆中
• 去重与合并：对多轮检索中重复出现的文档进行去重，避免上下文窗口浪费
• 来源追踪：记录每条信息的来源，支持最终答案的引用标注
• 矛盾标记：当不同轮次检索到相互矛盾的信息时，标记冲突并触发验证

八、Agentic RAG 的自我反思机制是如何运作的？

1. 反思的核心流程

自我反思（Self-Reflection）是 Agentic RAG 区别于传统 RAG 的关键能力之一，其运作遵循 ReAct（Reasoning + Acting）模式：

• 推理（Reasoning）：智能体分析当前状态——已获取了什么信息、还缺少什么、存在哪些矛盾
• 行动（Acting）：基于推理结果执行下一步操作——发起新检索、改写查询或调用工具
• 观察（Observation）：评估行动结果，将新信息纳入工作记忆
• 循环判断：判断是否需要继续迭代，或已满足终止条件

2. 反思的触发时机

智能体在以下关键节点触发反思：

• 检索后评估：每次检索完成后，评估结果的相关性和充分性
• 答案草稿验证：生成初步答案后，检查每个声明是否有上下文支撑
• 矛盾检测：当发现不同来源的信息存在冲突时，触发验证性检索
• 置信度评估：当模型对答案的置信度低于阈值时，触发补充检索

3. 反思的质量保障

为确保反思机制本身的可靠性：

• 结构化输出：要求智能体以结构化格式（如 JSON）输出评估结果，包含"是否充分""缺失信息""下一步动作"等字段
• 置信度阈值：设置明确的置信度阈值（如 0.85），低于阈值时强制触发再检索
• 失败封闭（Fail Closed）：当评估器无法做出明确判断时，默认触发再检索而非直接输出

九、Agentic RAG 的查询改写与分解是如何提升检索效果的？

1. 查询改写的核心方法

用户查询往往过于简短、口语化或使用知识库中不存在的实体名称，直接用于检索效果不佳。查询改写的主要方法包括：

• 查询扩展：添加同义词、上下位词和相关实体，扩大召回范围
• 查询重写：将自然语言查询改写为更适合向量检索或关键词检索的形式
• HyDE（假设性文档嵌入）：先由模型生成一个假设性答案，用该答案的嵌入向量进行检索，绕过查询与文档之间的措辞差异
• 实体消歧：识别查询中的歧义实体并明确指向

2. 查询分解的策略

对于包含多个信息需求的复合查询，智能体将其分解为多个原子子查询：

• 并行分解：将独立的信息需求拆分为可并行执行的子查询
• 串行分解：将存在依赖关系的子问题按顺序排列，前一步结果指导后续查询
• 条件分解：根据中间结果动态决定后续子查询的内容

3. 效果提升数据

查询改写与分解对检索效果的提升有实证支撑：

• 在多跳问答基准上，查询改写可带来数个百分点到数十个百分点的召回率提升
• 查询分解使复杂问题的回答完整度显著提高，因为每个子问题都能获得针对性的检索
• 代价是每轮改写和分解需要额外的 LLM 调用，增加延迟和 Token 消耗

十、Agentic RAG 如何降低大模型幻觉？

1. 幻觉问题的根源

大语言模型产生幻觉（Hallucination）的主要原因包括：训练数据存在知识截止日期、模型在缺乏相关信息时倾向"编造"答案、单次检索可能未召回关键信息。Agentic RAG 通过多重机制系统性地降低幻觉。

2. 基于证据的答案生成

Agentic RAG 要求答案中的每个关键声明都必须有检索到的文档作为支撑：

• 引用强制：生成答案时必须标注每条信息的来源
• 忠实度检查：由评估器逐条验证答案中的声明是否与检索上下文一致
• 拒绝机制：当检索上下文不足以支撑可靠答案时，明确告知用户信息不足，而非猜测

3. 迭代验证循环

通过多轮检索和验证，Agentic RAG 确保答案建立在充分且可靠的信息基础上：

• 首次检索不完整→改写查询再次检索
• 来源间存在矛盾→从权威来源进行交叉验证
• 答案草稿包含无据声明→触发补充检索或修改表述

4. 生产环境中的效果

行业实践表明，配备忠实度评估器的 Agentic RAG 系统比经典 RAG 的幻觉率更低，因为每个声明在输出前都经过验证。但需要注意：未配备自我检查机制的 Agentic RAG 反而可能比经典 RAG 幻觉更多，因为更多的检索轮次增加了模型"迷失"的机会。关键在于必须配备忠实度评估器（faithfulness judge）作为质量门控。

十一、Agentic RAG 如何保证检索结果的可信度？

1. 来源可信度评估

Agentic RAG 系统通过以下维度评估检索结果的可信度：

• 来源权威性：优先使用官方文档、法规数据库、经审核的内部文档等高权威来源
• 时效性检查：验证文档的发布或更新时间，避免使用过时信息
• 一致性验证：跨多个来源交叉验证同一事实，当来源间存在矛盾时标记冲突
• 元数据过滤：利用文档的元数据（如作者、部门、密级、有效期）判断其可靠性

2. 答案忠实度保障

• 逐条验证：对生成答案中的每个事实性声明，验证其是否有对应的检索文档支撑
• 置信度评分：为答案整体和每个关键声明赋予置信度分数
• 不确定性标注：当信息不足以得出确定结论时，明确标注不确定性范围

3. 审计追踪

Agentic RAG 系统保留完整的审计日志，记录：

• 每轮检索的查询词、数据源和返回结果
• 智能体的推理过程和决策依据
• 最终答案的生成路径和引用来源

这使得用户可以追溯答案的"证据链"，验证信息的可靠性。

十二、Agentic RAG 的评估指标有哪些？

1. RAGAS 核心指标体系

RAGAS（Retrieval Augmented Generation Assessment）是业界广泛采用的 RAG 评测框架，定义了以下核心指标。下表阈值综合 2026 年多家行业基准（DatavLab、Metafied Lab、InfoQ 等）的共识区间，具体取值应结合业务风险容忍度设定：

2. Agentic RAG 特有指标

除通用 RAG 指标外，Agentic RAG 还需要评估以下特有维度：

• 检索必要性准确率：智能体是否正确判断了是否需要检索
• 工具调用准确率（Tool Call Accuracy）：智能体是否选择了正确的工具并传入了合适的参数
• 多跳成功率：需要多轮检索的问题是否最终获得了完整答案
• 迭代效率：平均需要多少轮检索才能收敛（过度检索和检索不足都是问题）
• 每次正确回答的成本：综合 Token 消耗、API 调用次数和延迟

3. 评估实践建议

• 建立 50～200 条查询的"黄金数据集"作为评估基准，锚定后不随意更新
• 在 CI/CD 流水线中集成自动化评估，每次修改提示词、检索策略或模型时自动运行
• 对 5% 的线上流量进行人工抽检，校准自动评估器的偏差
• 关注趋势而非单次分数，避免对个别异常值过度反应

十三、Agentic RAG 如何保证数据访问的安全与权限控制？

1. 基于用户的权限继承

Agentic RAG 系统必须确保智能体在检索时严格遵循发起用户的权限范围：

• 用户上下文传递：智能体的运行时环境动态继承发起用户的权限，防止智能体以自身凭据越权访问数据
• 查询级权限过滤：在向量数据库查询时附加元数据过滤条件（如部门、密级、文档所有者），确保只返回用户有权查看的文档
• OAuth 2.0 Token Exchange（RFC 8693）：通过标准化的令牌交换机制建立可验证的委托链，确保智能体的有效权限始终受限于发起用户的授权范围

2. 细粒度访问控制模型

传统 RBAC（基于角色的访问控制）在企业文档场景中过于粗粒度，Agentic RAG 系统推荐采用更精细的模型：

• ReBAC（基于关系的访问控制）：根据用户与资源的实际关系（如项目成员身份、文档所有者、组织层级）授予访问权限
• ABAC（基于属性的访问控制）：根据用户属性、资源属性和环境属性综合评估访问权限
• 文档级/片段级控制：在高风险场景中，对单个文档甚至文档片段实施访问控制

3. 安全架构原则

• 策略决策与策略执行分离：策略决策点（PDP）应位于身份控制平面，向量数据库仅作为策略执行点（PEP）执行已做出的决策
• 失败封闭（Fail Closed）：当权限检查服务不可用或返回不确定结果时，默认拒绝访问
• 批量权限检查：对检索到的所有候选文档一次性进行权限验证，减少延迟并避免部分泄露
• 最小权限原则：智能体的服务账户仅拥有执行检索和权限检查所需的最低权限

十四、Agentic RAG 主要应用在哪些场景？

1. 企业知识管理

Agentic RAG 在企业内部知识库场景中表现突出。员工可以提出复杂的跨部门问题（如"对比去年 Q3 和今年 Q2 的退货政策变化，并说明对华东区客户的影响"），系统自动分解查询、从多个文档源检索相关信息并综合分析。典型落地包括：

• 人力资源政策问答：智能体从 HR 政策库、劳动合同模板和最新通知中检索并综合信息
• 产品文档助手：跨产品手册、更新日志、技术规格等多源文档进行检索和整合
• 内部研究支持：帮助研究团队从大量内部报告、市场数据和竞品分析中提取洞察

2. 合规与法律研究

法律和合规领域对信息准确性和可溯源性要求极高，Agentic RAG 的多轮验证机制特别适合：

• 法规合规分析：智能体从法规数据库、执法案例、司法解释等多源检索，综合分析合规性
• 合同审查：跨合同模板、历史合同和条款库进行比对分析
• 尽职调查：从企业数据库、公开信息和行业报告中综合收集目标企业信息

3. 客户服务

在客户服务场景中，Agentic RAG 可以处理复杂的客户咨询：

• 技术支持：从产品文档、已知问题库、历史工单中检索并诊断问题
• 订单与物流查询：调用 CRM、ERP 和物流系统 API 获取实时数据
• 投诉处理：综合客户历史、政策条款和解决方案库生成个性化回复

4. 金融与医疗

• 金融分析：从财报数据库、行业报告、新闻源中综合检索并分析投资标的
• 医疗研究：从医学文献、临床指南和病例库中检索循证医学证据
• 风险管理：跨监管数据库、内部风控模型和市场数据进行多维度风险评估

5. 企业级落地平台

对于希望快速将 Agentic RAG 能力落地到生产环境的企业，腾讯云智能体开发平台（ADP）提供了一站式解决方案。ADP 于 2025 年 9 月腾讯全球数字生态大会上宣布从传统 RAG 升级至 Agentic RAG 技术，其核心能力包括：Multi-Agent 协同（支持自由转交与工作流编排）、知识库管理与检索、自动化评测引擎（支持忠实度、相关性等多维指标）、以及 GraphRAG 增强的多元化 RAG 能力矩阵。企业可通过 ADP 的可视化编排界面快速搭建具备迭代检索、自我反思和工具调用能力的智能体，无需从零构建底层基础设施。

十五、Agentic RAG 系统存在哪些风险与挑战？

1. 迭代循环失控

Agentic RAG 的自主迭代特性带来了独特的风险：

• 无限循环：智能体可能陷入反复检索而无法收敛的循环，持续消耗资源
• 错误强化：如果初始检索方向错误，后续的迭代可能不断强化错误路径
• 缓解措施：设置最大迭代次数硬限制、超时控制和成本预算约束

2. 延迟与成本显著增加

Agentic RAG 的性能开销远高于传统 RAG：

• 延迟：标准 RAG 查询通常 1～2 秒完成，Agentic RAG 经过 3～4 轮迭代可能需要 8～15 秒
• 成本：每轮迭代涉及多次 LLM 调用（规划、评估）和检索调用，单次查询成本是标准 RAG 的 3～10 倍
• 缓解措施：通过查询分类器将简单查询路由到标准 RAG 管线，仅对复杂查询启用 Agentic 循环

3. 调试与可观测性困难

多步骤的迭代过程使问题定位变得复杂：

• 难以追溯是哪一轮检索引入了错误信息
• 智能体的决策逻辑可能不透明
• 需要专门的追踪工具（如 LangSmith、Arize Phoenix、Langfuse）记录每一步的状态

4. 提示注入攻击面扩大

多轮检索增加了提示注入的攻击面：

• 检索到的文档中可能包含恶意指令，影响智能体的后续决策
• 跨多轮迭代的攻击可能逐步引导智能体偏离预期行为
• 需要对所有检索内容进行输入清洗和安全过滤

5. 评估可靠性挑战

• 使用 LLM 作为评估器（LLM-as-Judge）存在循环依赖——可能产生幻觉的模型同时也在评估检索质量
• 评估器自身的偏差可能导致"虚假充分"判定，跳过本应进行的检索

十六、Agentic RAG 与经典 RAG 的工作方式有何不同？

1. 核心差异

经典 RAG 与 Agentic RAG 的根本区别在于"谁在控制检索过程"：

2. 适用场景的选择

• 选择经典 RAG：查询直接明确、数据源稳定、对延迟和成本敏感（如 FAQ 机器人、简单政策查询）
• 选择 Agentic RAG：查询复杂模糊、需要跨多个数据源综合、对答案准确性要求高（如合规分析、研究报告、跨系统数据整合）
• 生产最佳实践：在两者之间部署自适应路由器，让多数简单查询走经典 RAG 管线，仅将复杂查询路由到 Agentic 循环

十七、Agentic RAG 与 GraphRAG 有什么区别？

1. 核心思路差异

Agentic RAG 与 GraphRAG 解决的是不同维度的问题：

2. 互补关系

Agentic RAG 与 GraphRAG 并非互斥关系，而是可以组合使用：

• 在 Agentic RAG 系统中，将知识图谱遍历作为智能体可调用的工具之一
• 路由智能体根据查询类型决定使用向量检索还是图谱遍历
• 对于关系推理类子查询路由到 GraphRAG，对于综合类子查询使用向量检索

十八、Agentic RAG 与 Self-RAG 有什么区别？

1. 核心机制差异

Self-RAG 是 Agentic RAG 的一个特定实现模式，二者是包含关系：

2. Self-RAG 的运作方式

Self-RAG 通过训练模型输出特殊的反思 Token 来实现自我评估：

• 检索 Token：模型判断当前是否需要检索外部知识
• 相关性 Token：评估检索到的文档是否与问题相关
• 忠实度 Token：评估生成的答案是否被检索文档支撑
• 实用性 Token：评估答案整体是否对用户有用

3. 选择建议

• Self-RAG 适合：希望将评估逻辑内嵌到模型中、减少外部依赖的场景
• 更广泛的 Agentic RAG 适合：需要多工具调用、跨源检索、复杂规划的企业级应用
• 生产环境中，Self-RAG 的反思 Token 机制可作为 Agentic RAG 系统中评估层的一种实现方式，与其他外部评估器配合使用