


团队做大模型应用，最常被问到的问题之一是：到底要不要微调？有人一上来就想拿业务数据把模型“训一遍”，也有人觉得写好提示词就够了。这篇文章把微调到底在做什么、和 RAG/提示词工程怎么分工、什么时候真的该花这笔钱、以及以 LoRA 为代表的现代微调方式讲清楚。

## 一、一句话定义


微调（Fine-tuning，又称精调、SFT）是在已经训练好的预训练模型基础上，用少量领域数据继续训练，让“通用模型”变成“岗位专家”。它不动模型的底子，只把做事风格和专业知识掰到你想要的方向上，成本通常只有从头预训练的百分之一甚至更低。

一个关键转折是 2021 年提出的 LoRA（Low-Rank Adaptation，论文 arXiv:2106.09685）：它冻结原始权重，只注入极小的低秩矩阵做训练，可训练参数量减少约 99%，同时效果接近全量微调。今天开源社区主流的 LLaMA-Factory、Unsloth 等工具，本质上都是在降低微调的门槛。

## 二、一个比喻看懂微调在做什么


把预训练模型想象成名校毕业的通才：知识面广、会写字、会推理，但不懂你公司的行话。微调相当于送他去公司做三个月入职培训——用你的业务数据带一带，他就从“什么都懂一点”变成“懂你这一行、说你家话”的岗位专家。

同一个基座模型，喂法律数据就变成合同助手，喂代码数据就变成编程助手，喂客服话术就变成语气统一的客服。底子是同一个，专业方向由数据决定。

## 三、三条路线怎么选：提示词、RAG、微调


|维度|提示词工程|RAG|微调|
|:-:|:-:|:-:|:-:|
|成本|几乎为零|一套检索基础设施|数据清洗 + 训练，成本最高|
|知识更新|不涉及|改文档当天生效|必须重新训练|
|输出风格|靠提示词临时约束|不改变风格|风格可固化进参数|
|数据要求|不需要|需要可检索的文档|需要高质量标注数据|
|最适合|格式、角色、临时约束|知识频繁更新、要出处|领域稳定、要统一腔调和格式|

一个朴素的判断顺序：写几句提示词能解决，就别上 RAG；知识天天变、又要出处，用 RAG；只有当领域知识稳定、且要求模型一开口就是标准腔调、固定输出格式时，微调才真正划算。真实项目里三者叠加并不冲突。

## 四、微调的四个坑


- 脏数据累死个人：标注数据质量差，模型学的就是错误行为，数据清洗往往占掉七成工作量；

- 灾难性遗忘：用大量领域数据继续训练，模型的通用能力会退化，像学成了只认自家数据的“杠精”；

- 知识有截止日期：用某年财报微调的金融模型，第二年新政策出台它还张口老黄历，必须持续重训；

- 过拟合自家偏见：数据量太小时，模型会把个例当成规律，泛化能力反而下降。


## 五、现代微调怎么落地（LoRA 路线）


- 第一步：先确认真的需要微调——用提示词和 RAG 验证过仍不达标，再考虑；

- 第二步：准备几百到几万条高质量领域样本，覆盖真实输入分布，宁可少而干净；

- 第三步：选工具，开源场景用 LLaMA-Factory（一站式、主流模型和参数高效方法开箱即用），单卡大模型用 Unsloth；

- 第四步：默认用 LoRA/QLoRA 这类参数高效方法，冻结主干、只训低秩矩阵，显存和时间都大幅下降；

- 第五步：保留通用能力评估集，微调后跑一遍，确认没有明显退化；多版本并行管理，按场景切换。


## 六、常见问题（FAQ）


- 微调是什么？在预训练模型上用少量领域数据继续训练，把通用模型调成岗位专家，成本约为预训练百分之一。

- 和提示词工程什么区别？提示词是“说清楚要求”，零成本但上限受模型限制；微调是“改造模型本身”，把知识和风格刻进参数。

- 和 RAG 怎么选？知识天天变、要出处用 RAG；行业知识稳定、要统一腔调用微调，两者常组合。

- LoRA 是什么？冻结主干权重、只训练极小低秩矩阵的方法，可训练参数减少约 99%，效果接近全量微调。

- 什么情况别微调？知识频繁更新、数据稀少质量差、任务靠提示词就能解决、还要保住通用能力时。


### 关于作者与延伸阅读


本文涉及的每个 AI 名词，都可以在作者维护的 AI 名词拆解库「元素」中按统一的七维结构对照阅读。「元素」目前收录 22 个核心 AI 名词，并按“前置依赖 + 难度”排好了 22 站新人学习路径，适合作为团队入门词典持续查阅。

团队做大模型应用，最常被问到的问题之一是：到底要不要微调？有人一上来就想拿业务数据把模型“训一遍”，也有人觉得写好提示词就够了。这篇文章把微调到底在做什么、和 RAG/提示词工程怎么分工、什么时候真的该花这笔钱、以及以 LoRA 为代表的现代微调方式讲清楚。

大模型微调 vs RAG vs 提示词工程：什么场景该花这笔钱？（含 LoRA 实战要点）

大模型微调、RAG、提示词工程三条路线怎么选？本文用预训练→LoRA 的真实成本对比讲清各自边界：提示词零成本但受限于模型，RAG 外挂知识库、改文档当天生效，微调把领域知识刻进参数、LoRA 可把可训练参数减少 99%。附微调四个坑（脏数据、灾难性遗忘、学成杠精、知识截止）和落地五步。

人工智能

微调是在预训练模型基础上用领域数据做定向训练，将通用模型改造为岗位专家。与RAG、提示词工程相比，微调成本最高但能固化风格和知识。LoRA等技术可减少99%可训练参数。只有领域知识稳定、需统一腔调与输出格式时，微调才划算，实际项目中常与RAG组合使用。

让每一个 Agent，都跑在云上

tione

文章

问答

视频

教程

学习中心

腾讯云实验室

直播

竞赛

腾讯云代码分析专区

腾讯iOA零信任安全管理系统专区

腾讯云架构师技术同盟交流圈

腾讯云数据库专区

腾讯云智能顾问专区

腾讯云原生专区

腾讯混元专区

腾讯云TCE专区

腾讯云Lighthouse专区

腾讯云HAI专区

腾讯云Edgeone专区

腾讯云存储专区

腾讯云智能专区

腾讯轻联专区 

腾讯云开发专区

TAPD专区

腾讯轻量云游戏服专区

EdgeOne AI 安全实战专区

腾讯云最具价值专家

腾讯云架构师技术同盟

腾讯云创作之星

腾讯云开发者先锋

腾讯云代码助手

云原生构建

TAPD 敏捷项目管理

Cloud Studio

SDK中心

API中心

命令行工具

涵盖代码开发、场景应用、自动测试全流程，助你从零构建专属AI助手

一站式MCP教程库，解锁AI应用新玩法

聚焦“写作效率、视觉美观与运行性能”三方面进行全面升级，为您提供更高效、稳定的创作环境

社区富文本&Markdown编辑器全新改版上线，欢迎大家体验!

诚挚邀请您参与本次调研，分享您的真实使用感受与建议。您的反馈至关重要，感谢您的支持与参与！

社区新版编辑器体验调研

大模型微调 vs RAG vs 提示词工程：什么场景该花这笔钱？（含 LoRA 实战要点）-腾讯云开发者社区-腾讯云

大模型微调 vs RAG vs 提示词工程：什么场景该花这笔钱？（含 LoRA 实战要点）

大模型微调 vs RAG vs 提示词工程：什么场景该花这笔钱？（含 LoRA 实战要点）

社区

活动

圈层

关于

腾讯云开发者

热门产品

热门推荐

更多推荐