LLM Agent和 Agentic RAG 的最佳综述

论文链接：https://arxiv.org/abs/2501.09136 Github仓库：https://github.com/asinghcsu/AgenticRAG-Survey

摘要

代理式检索增强生成（Agentic RAG）通过在RAG管道中嵌入自主代理，代表了人工智能领域的重大飞跃。本仓库补充了综述论文《代理式检索增强生成（Agentic RAG）：综述》，提供了以下方面的见解：

• 基础原理，包括代理模式，如反思、规划、工具使用和多代理协作。
• Agentic RAG系统的详细分类，展示了单代理、多代理、分层、纠正、自适应和图基RAG等框架。
• 传统RAG、Agentic RAG和代理式文档工作流（ADW）的比较分析，突出它们的优势、劣势和最佳适用场景。
• 跨行业的实际应用，如医疗、教育、金融和法律分析。
• 挑战和未来方向，涉及扩展性、伦理AI、多模态集成和人机协作。

引言

检索增强生成（RAG）系统结合了大型语言模型（LLMs）和检索机制，生成上下文相关且准确的响应。虽然传统RAG系统在知识检索和生成方面表现出色，但在处理动态、多步推理任务、适应性和复杂工作流的编排方面往往存在不足。

代理式检索增强生成（Agentic RAG）通过集成自主AI代理克服了这些限制。这些代理采用核心的代理模式，如反思、规划、工具使用和多代理协作，动态适应任务特定需求，并在以下方面提供卓越性能：

• 多领域知识检索。
• 实时、以文档为中心的工作流。
• 可扩展、自适应和符合伦理的AI系统。

本文探讨了从RAG到Agentic RAG的演进，展示了：

• 代理模式：驱动系统适应性和智能的核心原则。
• 分类：Agentic RAG架构的全面分类。
• 比较分析：传统RAG、Agentic RAG和ADW之间的关键差异。
• 应用：跨医疗、教育、金融等领域的实际用例。
• 挑战与未来方向：解决扩展性、伦理AI和多模态集成问题。

无论您是研究人员、开发者还是实践者，本仓库都提供了宝贵的见解和资源，帮助您理解和推进Agentic RAG系统。

检索增强生成中的代理模式

Agentic RAG系统的智能和适应性来源于定义明确的代理模式。这些模式使代理能够处理复杂的推理任务，适应动态环境，并有效协作。以下是Agentic RAG的核心模式：

1. 反思

• 定义：代理评估自己的决策和输出，识别错误和改进空间。
• 关键优势：
  • 支持结果的迭代优化。
  • 提高多步推理任务的准确性。
• 示例：在医疗诊断系统中，代理根据检索到的数据迭代反馈优化诊断结果。

2. 规划

• 定义：代理创建结构化工作流和任务序列，以高效解决问题。
• 关键优势：
  • 通过分解任务促进多步推理。
  • 通过优化任务优先级减少计算开销。
• 示例：金融分析系统规划数据检索任务以评估风险并提供建议。

3. 工具使用

• 定义：代理与外部工具、API和知识库交互，检索和处理数据。
• 关键优势：
  • 扩展系统能力，超越预训练知识。
  • 通过集成外部资源支持特定领域的应用。
• 示例：法律助理代理从合同数据库中检索条款，并应用领域特定规则进行合规分析。

4. 多代理协作

• 定义：多个代理协作分工，共享信息和结果，以解决复杂任务。
• 关键优势：
  • 高效处理大规模和分布式问题。
  • 结合专业化代理能力以获得更好的结果。
• 示例：在客户支持中，代理协作从FAQ中检索知识、生成响应并提供后续跟进。

代理模式的意义

这些模式构成了Agentic RAG系统的核心，使其能够：

• 动态适应任务需求。
• 通过自我评估改进决策。
• 利用外部资源进行领域特定推理。
• 通过协作处理复杂的分布式工作流。

Agentic RAG系统的分类

代理式检索增强生成（RAG）系统涵盖了多种架构和工作流，每种架构都针对特定任务和复杂性级别进行了优化。以下是这些系统的详细分类：

1. 单代理RAG

• 核心思想：单个自主代理管理检索和生成过程。
• 工作流：
  1. 查询提交给代理。
  2. 代理从外部源检索相关数据。
  3. 数据处理并合成为响应。
• 优势：
  • 适用于基本用例的简单架构。
  • 易于实施和维护。
• 局限性：
  • 扩展性有限。
  • 对多步推理或大数据集效果不佳。

2. 多代理RAG

• 核心思想：多个代理协作执行复杂的检索和推理任务。
• 工作流：
  1. 代理动态分配任务（如检索、推理、合成）。
  2. 每个代理专注于特定子任务。
  3. 结果汇总并合成为连贯输出。
• 优势：
  • 在分布式、多步任务中表现更好。
  • 模块化和扩展性增强。
• 局限性：
  • 代理数量增加时协调复杂性增加。
  • 代理之间可能存在冗余或冲突。

3. 分层代理RAG

• 核心思想：将代理组织为层次结构，以更好地进行任务优先级和委派。
• 工作流：
  1. 顶层代理协调子任务给下层代理。
  2. 每个下层代理处理流程的特定部分。
  3. 结果在更高层次上迭代优化和集成。
• 优势：
  • 适用于大规模和复杂任务。
  • 模块化设计便于专业化。
• 局限性：
  • 需要复杂的协调机制。
  • 高层可能存在瓶颈。

4. 纠正代理RAG

• 核心思想：通过反馈循环使代理能够迭代评估和优化其输出。
• 工作流：
  1. 代理生成初始响应。
  2. 批评模块评估响应的错误或不一致性。
  3. 代理根据反馈优化响应。
  4. 重复步骤2-3，直到输出达到质量标准。
• 优势：
  • 通过迭代改进实现高准确性和可靠性。
  • 适用于易出错或高风险任务。
• 局限性：
  • 计算开销增加。
  • 反馈机制需精心设计以避免无限循环。

5. 自适应代理RAG

• 核心思想：根据任务需求动态调整检索策略和工作流。
• 工作流：
  1. 代理评估查询及其上下文。
  2. 根据可用数据和用户需求实时调整检索策略。
  3. 使用动态工作流合成响应。
• 优势：
  • 对多样化任务和动态环境具有高度灵活性。
  • 提高上下文相关性和用户满意度。
• 局限性：
  • 设计稳健的自适应机制具有挑战性。
  • 实时调整的计算开销较大。

6. 图基代理RAG

图基RAG系统通过集成图数据结构进行高级推理，扩展了传统RAG。

6.1 Agent-G：图RAG的代理框架

• 核心思想：使用图知识库和反馈循环动态分配任务给专业化代理。
• 工作流：
  1. 从图知识库中提取关系（如疾病到症状的映射）。
  2. 补充来自外部源的非结构化数据。
  3. 使用批评模块验证结果并迭代优化。
• 优势：
  • 结合结构化和非结构化数据。
  • 模块化且适用于复杂任务。
  • 通过迭代优化确保高准确性。

6.2 GeAR：图增强代理RAG

• 核心思想：通过图扩展技术和代理架构增强RAG系统。
• 工作流：
  1. 扩展与查询相关的图以增强关系理解。
  2. 利用专业化代理进行多跳推理。
  3. 将图结构化和非结构化信息合成为响应。
• 优势：
  • 在多跳推理场景中表现出色。
  • 提高深度上下文任务的准确性。
  • 动态适应复杂查询环境。

7. 代理式文档工作流（ADW）

代理式文档工作流（ADW）通过智能代理自动化以文档为中心的流程，扩展了传统RAG系统。

工作流

1. 文档解析与结构化：
   • 从发票或合同等文档中提取结构化数据。
2. 状态维护：
   • 在多步工作流中跟踪上下文以确保一致性。
3. 知识检索：
   • 从外部源或领域特定数据库中检索相关参考。
4. 代理编排：
   • 应用业务规则，执行多跳推理，并编排外部API。
5. 可操作输出生成：
   • 生成针对特定用例的结构化输出（如报告或摘要）。

关键特性与优势

• 状态维护：确保多步工作流的一致性。
• 领域特定智能：适应特定领域的定制规则。
• 扩展性：高效处理大规模文档处理。
• 增强生产力：减少人工工作量并增强人类专业知识。

可视化表示

• 单代理RAG图

• 多代理RAG图

• 分层RAG工作流

• 基于图的RAG工作流

• ADW工作流

Agentic RAG框架的比较分析

下表提供了三种架构框架的全面比较分析：传统RAG、Agentic RAG和代理式文档工作流（ADW）。该分析突出了它们各自的优势、劣势和最佳适用场景，为跨多样化用例的适用性提供了宝贵见解。

关键要点

• 传统RAG最适合需要基本检索和生成能力的简单任务。
• Agentic RAG在多代理协作推理中表现出色，适用于更复杂的多领域任务。
• 代理式文档工作流（ADW） 为企业级应用（如合同分析和发票处理）提供了定制的文档中心解决方案。

应用

代理式检索增强生成（RAG）系统在多个行业中具有变革性潜力，能够实现智能检索、多步推理和动态适应复杂任务。以下是Agentic RAG系统产生重大影响的关键领域：

1. 医疗与个性化医学

• 问题：快速检索和合成医学知识以支持诊断、治疗计划和研究。
• 应用：
  • 利用多模态数据（如患者记录、医学文献）的临床决策支持系统。
  • 自动化生成带有相关上下文参考的医疗报告。
  • 多跳推理分析复杂关系（如疾病到症状的映射或治疗到结果的相关性）。

2. 教育与个性化学习

• 问题：为多样化学习者提供个性化和适应性学习体验。
• 应用：
  • 设计能够实时检索知识和提供个性化反馈的智能导师。
  • 根据学生进度和偏好生成定制教育内容。
  • 多代理系统用于协作学习模拟。

3. 法律与合同分析

• 问题：分析复杂的法律文档并提取可操作的见解。
• 应用：
  • 合同摘要和条款比较，与法律标准进行上下文对齐。
  • 检索先例案例和法规指南以确保合规性。
  • 迭代工作流

挑战与未来方向

尽管代理增强检索生成（Agentic RAG）系统展现出巨大的潜力，但仍存在一些未解决的挑战和研究机会：

挑战

1. 多代理系统中的协调复杂性：
   • 管理多个代理之间的通信和协作可能导致效率低下和计算开销增加。
   • 平衡任务分配和解决代理之间的冲突仍然是一个关键问题。
2. 伦理与负责任的AI：
   • 在医疗和金融等敏感领域确保无偏见的检索和决策。
   • 解决数据隐私问题，构建符合伦理标准的透明系统。
3. 可扩展性与延迟：
   • 扩展Agentic RAG系统以处理大规模数据集和高频查询，同时不牺牲响应时间。
   • 解决多代理和图工作流中的延迟问题。
4. 人机协作：
   • 设计有效整合人类监督与自主代理的系统，以应对需要领域专业知识的任务。
   • 在利用AI代理优势的同时，保持用户的信任和控制。
5. 扩展多模态能力：
   • 整合文本、图像、音频和视频数据，以生成更丰富和全面的输出。
   • 处理实时应用中的多模态推理复杂性。

未来方向

1. 增强的代理协调：
   • 开发更强大的协调框架，用于分层和多代理系统。
   • 引入自适应学习机制，动态改进任务分配。
2. 领域特定应用：
   • 为法律分析、个性化教育和高级科学研究等特定领域定制Agentic RAG系统。
3. 伦理AI与治理框架：
   • 构建工具以监控、解释和减轻AI输出中的偏见。
   • 制定高风险环境中伦理部署的政策和指南。
4. 高效的图推理：
   • 优化大规模实际应用中的图工作流。
   • 探索结合图推理与神经网络的混合方法。
5. 人机协同：
   • 设计直观的界面和工作流，使人类能够有效地与Agentic RAG系统交互。
   • 关注可解释性和以用户为中心的设计。

RAG代理分类的实现：技术与工具

关于Agentic RAG的博客和教程

1. DeepLearning.AI: 代理如何提高LLM性能。 DeepLearning.AI
2. Weaviate博客: 什么是Agentic RAG？ Weaviate博客
3. LangGraph CRAG教程: LangGraph CRAG: 上下文检索增强生成教程。 LangGraph CRAG
4. LangGraph自适应RAG教程: LangGraph自适应RAG: 自适应检索增强生成教程。 LangGraph自适应RAG. 访问日期: 2025-01-14.
5. LlamaIndex博客: 使用LlamaIndex的Agentic RAG。 LlamaIndex博客
6. Hugging Face Cookbook. Agentic RAG: 通过查询重构和自查询加速检索增强生成。 Hugging Face Cookbook
7. Hugging Face Agentic RAG: https://huggingface.co/docs/smolagents/en/examples/rag
8. Qdrant博客. Agentic RAG: 结合RAG与代理以增强信息检索。 Qdrant博客
9. Semantic Kernel: Semantic Kernel是微软的开源SDK，集成了大语言模型（LLMs）到应用程序中。它支持代理模式，能够创建自主AI代理，用于自然语言理解、任务自动化和决策。它已在ServiceNow的P1事件管理等场景中使用，以促进实时协作、自动化任务执行和无缝检索上下文信息。
   • GitHub - 使用Semantic Kernel的RAG
   • GitHub - Semantic Kernel
   • ServiceNow案例研究

Agentic RAG的实际应用与用例

1. AWS机器学习博客. Twitch如何使用Agentic工作流与RAG在Amazon Bedrock上加速广告销售。 AWS机器学习博客
2. LlamaCloud演示库. 使用LlamaCloud的患者案例摘要工作流。 GitHub 2025. 访问日期: 2025-01-13.
3. LlamaCloud演示库. 使用LlamaCloud的合同审查工作流。 GitHub
4. LlamaCloud演示库. 使用LlamaCloud的汽车保险索赔工作流。 GitHub
5. LlamaCloud演示库. 使用LlamaCloud的研究论文报告生成工作流。 GitHub

参考文献

关于Agentic RAG的研究论文

1. 单代理RAG（基于路由器）

• Search-o1: 代理增强搜索的大推理模型 https://arxiv.org/abs/2501.05366

2. 多代理RAG

• 用于时间序列分析的代理增强检索生成 https://arxiv.org/abs/2408.14484

3. 纠正RAG

• 企业系统的代理AI驱动技术故障排除 https://arxiv.org/abs/2412.12006
• 纠正RAG (CRAG) https://langchain-ai.github.io/langgraph/tutorials/rag/langgraph_crag/
• 纠正检索增强生成 https://arxiv.org/abs/2401.15884
• 企业系统的代理AI驱动技术故障排除 https://arxiv.org/abs/2412.12006

4. 自适应RAG

• Langgraph自适应RAG https://langchain-ai.github.io/langgraph/tutorials/rag/langgraph_adaptive_rag/
• MBA-RAG: 一种基于Bandit的自适应检索增强方法 https://arxiv.org/abs/2412.01572
• CtrlA: 通过内在控制的自适应检索增强生成 https://arxiv.org/abs/2405.18727
• Adaptive-RAG: 通过问题复杂性学习适应检索增强大语言模型 https://arxiv.org/abs/2403.14403
• AT-RAG: 一种通过主题过滤和迭代推理增强查询效率的自适应RAG模型 https://arxiv.org/abs/2410.12886

5. 图增强RAG

• GeAR: 图增强的检索增强生成代理 https://arxiv.org/abs/2412.18431
• Agent-G: 一种图检索增强生成的代理框架 https://openreview.net/forum?id=g2C947jjjQ