GraphRAG 的索引成本主要来自大语言模型调用,是部署前需要重点规划的部分。
1. LLM 调用是主要成本
- 索引阶段需对每个文本块调用大语言模型进行实体与关系抽取,还会进行多轮补全抽取
- 社区摘要生成同样需要大量 LLM 调用,语料规模越大,调用次数越多
- 因此索引成本与文本块数量、抽取轮数、所用模型的计费标准直接相关
2. 影响成本的关键因素
- 分块粒度:分块越短,实体召回率越高,但 LLM 调用次数也相应增加
- 抽取轮数:多轮 gleanings 会提升质量,同时推高调用量
- 社区层级数量:层级越多,摘要生成的调用量越大
3. 成本控制建议
- 官方建议先用低成本模型在教程数据集上试跑,评估成本后再投入大规模索引
- 可通过调整分块策略、抽取轮数与社区层级控制调用规模
- 后续发布的 LazyGraphRAG 模式大幅降低了索引开销,为成本敏感场景提供了选择