- 综合排序
- 最热优先
- 最新优先
- 来自专栏大模型技术应用
RAG 技术综述
注：绿色元素代表我们将要深入讨论的核心 RAG 技术，蓝色元素则表示文本 模块化 RAG 模块化 RAG结构不仅更加灵活自由，还引入了更多定制化的功能模块，例如查询搜索引擎和多答案整合。 技术上，它将信息检索与微调、强化学习等技术相结合。从流程上看，RAG 的各个模块被精心设计和调配，形成了多种RAG模式。 但模块化 RAG 并非一蹴而就；它是在前两个范式基础上逐步演化而来的。 发展前景 我们可以预见大模型和RAG技术将会共同进步，并可能融合发展。大模型可能会内置更加高效的检索机制，而RAG技术也会不断优化，使得检索过程更加精准、生成过程更加自然。 2、多模态扩展 RAG 的技术和概念正在不断进化，它们将如何扩展到图像、音频、视频或代码等其他数据形式？ 目前，包括推荐系统、信息提取和报告生成在内的多种任务已经开始受益于 RAG 技术的应用。 同时，RAG 技术栈也在迅速壮大。
1.8K11编辑于 2024-02-01 - 来自专栏JadePeng的技术博客
RAG 范式、技术和趋势
Trends》 ，RAG 范式、技术和趋势。 随着RAG技术的进一步发展和进化，产生了模块化RAG的概念。在结构上，它更自由、更灵活，引入了更具体的功能模块，如查询搜索引擎和多个答案的融合。在技术上，它将检索与微调、强化学习和其他技术相结合。 技术发展树 RAG 关键技术 数据索引优化 核心是chunk的策略： Small-2-Big 在sentense级别做embedding Slidingwindow 滑动窗口，让chunk覆盖整个文本 RAG 技术栈与工业界实践 当前有LangChain、LlamaIndex、AutoGen等流行的开发框架，可以方便开发RAG应用。 工业界也有很多RAG应用。 总结与展望 RAG 技术框架 RAG 的三个研究热点 RAG 的挑战 长上下文 与FT的协同 如何应用好LLM，充分挖掘利用LLM 提升鲁棒性，比如如何处理错误的召回内容，如何过滤和验证召回内容 RAG
1.7K11编辑于 2024-03-16 - 来自专栏深度学习与python
解码RAG：智谱 RAG 技术的探索与实践
智谱 AI 长期专注于大模型技术的研究，从 23 年开始，大模型受到了各行各业的关注，智谱 AI 也深度的参与到各种场景的大模型应用的建设当中，积累了丰富的模型落地应用的实战经验，其中 RAG 类应用占据了较大的比重 所以在同样精度的情况下，利用 RAG 技术可以大大地降低整个成本。 智谱 -RAG 解决方案 技术方案 下图是技术方案的全景图 整个技术方案包括三个层面：文件上传、用户提问和答案输出。 针对同样的场景问题，智谱通过“ChatGLM 大模型 +RAG”的方案来解决。整个成本和效果可以有大幅提升如，下图所示： 此项目面临如下几个技术挑战： Embedding 第一个挑战是知识召回。 结 尾 展望未来，RAG 技术将会在更多领域得到应用，并与其它 AI 技术相结合，例如多模态交互、个性化推荐、用户长期记忆等。 智谱 AI 将继续致力于 RAG 技术的探索与实践，为企业在更多的领域落地大模型应用，提供更加智能、高效的服务体验。
92722编辑于 2024-06-27 - 来自专栏CoderJia的工作笔记
RAG_Techniques：深入解析GitHub热门RAG技术宝库
本文将带您深入探索GitHub上备受瞩目的RAG_Techniques项目，这是目前最全面的RAG技术集锦之一，为研究人员和实践者提供了丰富的高级技术实现和示例。 （RAG）技术 技术栈：Python、LangChain、LlamaIndex、各种LLM模型 开源许可证：自定义非商业许可 收藏数：15.9k（截止到2050506） RAG_Techniques 由 RAG技术简介与重要性 检索增强生成（RAG）结合了信息检索与生成模型的优势，使AI能够访问和利用外部知识生成回答。 分类清晰的技术体系 RAG_Techniques 项目将 33 种技术分为几大类别，使开发者能够根据需求快速定位： 基础技术（Foundational） - 包括基本 RAG、CSV 文件集成的 RAG 前沿技术解析 项目中包含了多种前沿RAG技术，以下是几个特别值得关注的： Self-RAG - 一种动态方法，能够自适应地决定是否使用检索的信息以及如何最好地利用它生成响应。
61121编辑于 2025-05-07 - 来自专栏深度学习与python
RAG 技术真的“烂大街”了吗？
在这一领域中， RAG 技术将传统信息检索技术与大语言模型技术相结合，为知识理解、知识获取提供了全新的解决方案。然而，尽管 RAG 在很多任务上表现出色，其在深度应用上仍面临诸多挑战。 当然， RAG 技术的发展和应用正在不断演进，随着技术的成熟和优化，预计 RAG 将在更多场景下发挥关键作用。接下来，我们进入今天的第二个话题。如何提高公众对 RAG 技术的认识和理解？ 总结来说，我认为 RAG 技术的关键还是要有爆款产品，而从事 RAG 技术的人的关键是解决其基本问题，让 RAG 技术在这些爆款产品中可用，满足用户的期望体验。 RAG 技术未来展望 郭瑞杰： 前面 3 个话题主要讨论了 RAG 技术的现状、应用情况、高级 RAG 技术解法等，最后，咱们聊聊 RAG 技术未来的发展方向，有哪些新兴的技术和方法可能会给 RAG 这些新兴技术和方法可能会给 RAG 技术带来新的冲击和发展机遇，推动 RAG 技术在更多领域和场景中的深度应用，并实现更高的性能和可用性。
47610编辑于 2024-07-24 - 来自专栏架构之巅
大模型相关技术-初识RAG
java程序员肯定就会想到写个filter或者intercepter，RAG就是在做类似的事情，只不过流程更加复杂。 RAG是什么 检索增强生成（RAG）是对大型语言模型输出进行优化的方法，使其能够在生成响应之前引用训练数据来源之外的权威知识库。 为什么需要RAG 大模型在没有答案的情况下提供幻象数据，也就是胡说八道。 当用户需要特定的当前响应时，提供过时或通用的信息，模型提供的最新信息为训练模型时的数据。 敏感词、停止词过滤 RAG的基石：向量数据库 复习一下向量的概念：在几何中一个同时具有大小和方向的对象就叫向量，还有一个定义大家可能更加熟悉，“既有大小，又有方向的量叫做向量”。 - 哔哩哔哩 (bilibili.com) 我正在参与2024腾讯技术创作特训营最新征文，快来和我瓜分大奖！
46941编辑于 2024-04-28 - 来自专栏Reinvent Data Science
RAG 修炼手册｜一文讲透 RAG 背后的技术
今天我们继续剖析 RAG，将为大家详细介绍 RAG 背后的例如 Embedding、Transformer、BERT、LLM 等技术的发展历程和基本原理，以及它们是如何应用的。 01. Embedding 是将离散的非结构化数据转换为连续的向量表示的技术。 这强大的功能背后，是从人类反馈中强化学习（Reinforcement Learning from Human Feedback，RLHF）等技术的支持，通过这些技术使得它和人类的对话更让人满意。 好在，我们可以使用 Retrieval Augmented Generation (RAG) 技术解决产生幻觉，和无法实时更新知识这两点不足。 RAG 是结合向量数据库和 LLM 的一项技术应用，关于 RAG 的介绍以及优化技巧，可以参考其它的文章。 03.
2.1K22编辑于 2024-04-11 - 来自专栏TechLead
RAG技术架构与实现原理
本文详细解析了RAG技术，包括其定义、作用、技术架构和检索模块的实现与优化，全面展示了RAG在自然语言处理中的重要性和广泛应用前景。 关注TechLead，复旦AI博士，分享AI领域全维度知识与研究。 一、RAG的定义和作用 RAG的定义 Retrieval-Augmented Generation（RAG）是一种结合了检索和生成技术的自然语言处理（NLP）模型。 RAG的应用场景 RAG技术在多个领域中展现了其强大的应用潜力，以下是一些典型的应用场景： 开放域问答 在开放域问答任务中，RAG通过检索相关文档并生成基于这些文档的回答，能够处理范围更广、问题更复杂的用户提问 二、RAG的技术架构 RAG模型整体架构 RAG（Retrieval-Augmented Generation）模型的技术架构包括两个主要部分：检索模块（Retriever）和生成模块（Generator 技术架构图 以下是RAG模型的技术架构图，展示了检索模块和生成模块的工作流程： 输入查询 │ ▼ 检索模块 │ ├──> 文档1 │ ├──> 文档2
6.8K10编辑于 2024-07-15 - 来自专栏windealli
LLM RAG 技术剖析与演进
什么是RAG RAG（Retrieval-Augmented Generation，检索增强生成） 是一种将大语言模型（LLM）与模型外知识库检索相结合的技术架构。 RAG的核心步骤 RAG 的核心步骤如下图所示（图片来自网络） 知识库预处理（索引） 在 RAG 提供服务之前，需要先将知识库落库、简历索引。 关键技术： 混合检索：结合向量检索（如 rank_model_type="bge" 的 BGE 模型）与关键词检索（如 search_engine="sogou"），提升召回多样性。 Graph RAG（图增强 RAG） 核心改进：引入图结构（如知识图谱）增强知识表示与推理能力。 关键技术： 图化知识库：将文档中的实体、关系构建为图结构，支持多跳推理。 Agentic RAG（智能体化 RAG） 核心思想：引入自主智能体（Agent）动态控制 RAG 流程。 关键技术： 调用 search_engine="sogou" 或向量检索。
65310编辑于 2025-03-12 - 来自专栏老张的求知思考世界
RAG技术的三大范式和技术演进
前面的文章中，为大家介绍过大模型领域的核心技术：RAG(Retrieval-Augmented Generation)，即检索增强生成。 从2022年底ChatGPT横空出世以来，大模型的信息幻觉(生成错误信息)、知识过时、推理过程不透明等问题，一直困扰着业内各方技术人员，直至RAG技术出现，才算缓解了这个难题。 》，对RAG的三大范式演进(基础RAG、高级RAG、模块化RAG)和检索、生成与增强三大核心组件的关键技术进行了深入探讨。 一、RAG的三大技术范式 1、基础RAG(Naive RAG) 流程：索引(Indexing)→ 检索（Retrieval）→ 生成(Generation)。 二、RAG的核心技术组件 1、检索优化 数据源选择：结构化数据(数据库表)与非结构化数据(文本、PDF)的混合使用。
55811编辑于 2025-05-23 - 来自专栏老张的求知思考世界
基于LangChain实现RAG的技术原理
我们常见的各种ChatBot(即聊天机器人)，就是基于这种技术原理实现的。与之相关的技术框架，常见的有如下几种： LangChain：开源框架，提供了丰富的组件和工具，用于构建RAG系统。 LLama-Index：专为LLama模型设计的RAG框架，适用于特定场景下的应用。 RAGFlow：一个较新的RAG框架，注重简洁性和效率，提供预设组件和工作流。 Haystack：一个常用的开源框架，支持向量存储和编排层，是RAG系统的重要组成部分。 GraphRAG：专注于大模型驱动的RAG技术，通过优化向量库构建与推理性能来提升RAG系统的效率。 文本向量化：将切割后的文本小块，通过EMB(数据拆分和映射)技术转换为算法可以处理的向量，并存入向量数据库。 问句向量化：将用户的提问内容进行向量化处理(切割+拆分+映射)。 按照技术领域的通用测试原则，需要构建评测集(即IT技术领域的测试用例)，对其展开评测。 评测集需要满足如下几点要求： 可以理解用户提问内容。 可以匹配正确的知识库内容。
27200编辑于 2025-05-17 - 来自专栏AIGC
【AIGC】检索增强技术深度剖析（RAG）
在这种情况下，检索增强生成 （RAG） 开辟了新的视角。RAG 允许将 AI 模型与公司的特定内部数据集成，不仅可以进行处理，还可以对这些知识进行智能解释和利用。在本文中，我们将探讨如何实现这一点。 一、检索增强定义RAG 是一种技术，它允许通过从大型文档数据库中实时检索信息来扩展预训练语言模型的知识。 这是它的样子：在这种情况下，检索增强生成 （RAG） 就派上用场了。我们可以通过向提示添加上下文信息来简单地扩展机器学习模型的知识。从理论上讲，它如下所示：从理论上讲，它会起作用。 小编是一名热爱人工智能的专栏作者，致力于分享人工智能领域的最新知识、技术和趋势。这里，你将能够了解到人工智能的最新应用和创新，探讨人工智能对未来社会的影响，以及探索人工智能背后的科学原理和技术实现。 我正在参与2024腾讯技术创作特训营最新征文，快来和我瓜分大奖！
81310编辑于 2024-05-11 - 来自专栏NLP/KG
探索检索增强生成（RAG）技术的无限可能：Vector+KG RAG、Self-RAG、多向量检索器多模态RAG集成
探索检索增强生成（RAG）技术的无限可能：Vector+KG RAG、Self-RAG、多向量检索器多模态RAG集成 由于 RAG 的整体思路是首先将文本切分成不同的组块，然后存储到向量数据库中。 答案又是肯定的，一个较好的解决方案是 Self-RAG 技术。由于篇幅所限，此处介绍其推理过程，训练过程需要借助 GPT4 进行辅助打标，就不展开说了。 2）多模态 RAG（文本 + 表格 + 图片） 对多模态 RAG 而言，有三种技术路线 [10]，见下图： 如图 7 所示，对多模态 RAG 而言有三种技术路线，如下我们做个简要说明： 选项 1：对文本和表格生成 基于 Self-RAG 技术，可以按需检索上下文，同时还可进行自我评判。 3.1应用场景 一般的 RAG 应用会无差别地访问向量库获取上下文，而不管其是否真的需要。 / AI pursuer：揭秘 Self-RAG 技术内幕 Multi-Vector Retriever for RAG on tables, text, and images：Multi-Vector
4.6K34编辑于 2024-01-10 - 来自专栏ceshiren0001
RAG技术工作流程详细指南
检索增强生成（Retrieval-Augmented Generation，简称RAG）是人工智能领域的一项关键技术。它将信息检索与大型语言模型相结合，大大提升了生成内容的准确性和及时性。 本文将深入解析RAG的工作流程及其核心技术。 RAG系统架构核心组件RAG系统包含三个关键模块：检索器（Retriever）：从知识库中检索相关文档编码器（Encoder）：将查询和文档转换为向量表示生成器（Generator）：基于检索结果生成最终答案工作流程详解第一阶段 prompt)])优化策略检索优化使用混合搜索策略（关键词+向量）实现查询扩展和重写调整检索数量和质量平衡生成优化设计有效的提示模板实施内容过滤和验证添加引用和溯源机制应用场景企业知识管理内部文档问答系统技术支持和故障排除员工培训和学习平台客户服务智能客服机器人产品信息查询个性化推荐系统挑战与解决方案常见挑战
20910编辑于 2025-08-28 - 来自专栏架构驿站
一文读懂 Agentic RAG 技术点滴
这些局限性凸显了 RAG 技术的发展空间，为满足日益增长的客户诉求，解决客户的痛点，未来的 RAG 优化可能包括多源知识整合、动态上下文验证以及与外部工具的深度融合，以满足更广泛的场景需求。 虽然智能代理（Agents）可以被整合进 RAG 流水线的不同阶段，但 Agentic RAG 通常特指在检索组件中引入代理技术的实现。 在现代 AI 应用中，尤其是在处理多源知识和实时数据时，Agentic RAG 的灵活性成为其核心优势。Agentic RAG 的核心在于其多层次架构，融合了代理智能、检索技术和生成模型。 以下是 Agentic RAG 框架中代理的关键使用模式，它们共同构成了这一技术在实际应用中的核心价值。 今天的解析就到这里，欲了解更多关于 Agentic RAG 相关技术的深入剖析，最佳实践以及相关技术前沿，敬请关注我们的微信公众号：架构驿站，获取更多独家技术洞察！
61401编辑于 2025-04-04 - 来自专栏Datawhale专栏
RAG 作者：RAG 已死，RAG 万岁！
但这些论断——无论是针对上下文窗口的突破、微调技术的进步，还是模型上下文协议（MCP）的出现——都误解了 RAG 的目的，以及为何它在人工智能领域将永远占有一席之地。 底线是：您同时需要长上下文 LLM 和 RAG。 但既然“RAG”这个术语似乎如此具有争议性，那我们不妨这样说： 我们不必非得称之为 RAG。 我们可以就叫它 检索 (retrieval)。 这就是为什么检索技术的创新一直快速发展，混合搜索、查询转换、自我反思、主动检索以及对结构化数据的支持等方面的进步，都在帮助您在知识库中找到正确的信息。 警惕错误的二分法 在谷歌搜索“RAG vs”，你会看到一长串建议的查询补全——“长上下文”、“微调”、“MCP”。这种框架设定制造了一种人为的选择，并没有反映这些技术实际上如何协同工作的最佳方式。 因为重要的不是哪种技术在某场人为的竞赛中获胜，而是构建能够真正解决实际问题的方案。” 原文链接：https://contextual.ai/blog/is-rag-dead-yet/ -完-
30010编辑于 2025-04-24 - 来自专栏《三桥君 | AI产品方法论》
在AI技术快速迭代的背景下，如何通过RAG技术提升模型的实时性和准确性？从Naive RAG到Modular RAG：AI技术进化的关键路径
从最初的朴素RAG（Naive RAG）到如今的高级RAG（Advanced RAG）和模块化RAG（Modular RAG），这一技术经历了多次迭代和优化。 每一次的进化都揭示了看似简单的技术背后隐藏的复杂细节和挑战。本文三桥君将深入探讨RAG技术的演进路径，分析其在不同阶段的技术原理、应用场景以及未来发展方向。 二、朴素RAG：技术探索的起点 1. 用户需求驱动 方式 效果 引入用户反馈机制 根据用户反馈不断优化生成内容，提升用户满意度 六、总结 从朴素RAG到模块化RAG，RAG技术的演进不仅展示了AI技术在检索与生成领域的巨大潜力，也揭示了技术背后的复杂细节和挑战 三桥君认为，RAG技术的未来发展方向将更加注重与其他AI技术的融合，以及应用场景的扩展。通过与微调、强化学习等技术的结合，RAG可以进一步提升模型的表现。 在医疗、金融等领域的应用，也将为RAG技术带来更广阔的发展空间。最终，RAG技术将通过不断优化和迭代，更好地满足用户需求，提升AI产品的实用性和竞争力。
16210编辑于 2025-08-29 - 来自专栏全栈开发工程师
【RAG】001-RAG概述
补充1：RAG 基本逻辑 补充2：RAG 知识库基本逻辑 一、RAG 介绍 1、LLM 的主要局限性 大语言模型（LLM）尽管功能强大，但仍存在以下明显的局限性： 时效性问题：模型的知识在预训练后就固定了 检索增强生成（Retrieval-Augmented Generation，RAG）技术能够有效解决上述问题： 提升输出质量： 通过实时检索相关信息，显著提高生成内容的准确性 基于事实的回答，减少模型幻觉 概述 1、RAG 的概念 RAG（Retrieval-Augmented Generation，检索增强生成）是一种结合了检索和生成技术的文本处理方法，主要用于提高语言模型的输出质量。 在向量数据库中搜索相似内容 获取最相关的文本片段 生成过程： 将检索到的相关内容与用户问题组合 构建合适的提示词（Prompt） 通过 LLM 生成最终答案 3、RAG 的应用场景 RAG 技术在多个领域都有广泛应用 ： 企业知识库问答： 客服智能问答 内部文档检索 技术支持服务 个性化内容生成： 产品推荐 个性化营销文案 定制化报告生成 实时信息服务： 新闻摘要生成 市场分析报告 数据洞察分析 4
37710编辑于 2025-03-25 - 来自专栏IT技术订阅
深度解析 RAG（Retrieval-Augmented Generation）技术原理
在这一背景下，RAG（Retrieval-Augmented Generation检索增强生成）技术应运而生。 本文将深入解析 RAG 的技术原理及关键要点，以帮助读者全面理解这一前沿技术。 RAG 技术的诞生背景 在大数据时代的浪潮中，信息如潮水般涌来，企业和个人面临着如何高效处理、理解和利用这些信息的巨大挑战。 RAG 应运而生，它巧妙地将信息检索系统与先进的生成模型相融合，通过这种协同工作模式突破传统技术瓶颈，满足日益增长的信息处理需求。 RAG 的工作原理 检索阶段（Retrieval） 1. RAG 的关键技术组件 检索模型 1. 向量化技术：向量化是检索模型的核心基础。目前，基于预训练语言模型的语义向量化技术正日益受到重视。
1.2K20编辑于 2025-06-19 自动生成试题评估RAG流水线技术
在快速演进的大语言模型（LLM）领域，准确评估检索增强生成（RAG）模型至关重要。 本文介绍了一种开创性方法，采用自动化试题生成流程，并通过项目反应理论（IRT）增强，以评估RAG模型在特定任务上的事实准确性。 试题生成流程RAG是一种处理自然语言查询的方法，通过检索相关文档并使用其中的文本来引导LLM生成响应。期望来自可靠文档的事实断言能够抑制LLM的“幻觉”倾向，即生成听起来合理但错误的句子。 为了评估特定任务上的RAG模型，使用LLM从任务特定知识库中生成多项选择题。该方法对RAG系统和试题生成任务中使用的检索器和生成模型均不可知。 同时，将处理元评估的复杂任务，比较和优化评估方法以考虑LLM性能的多维性，并持续更新方法以适应LLM技术的快速发展。致谢感谢Laurent Callot的贡献。
8210编辑于 2025-09-01
腾讯云开发者
