部署 GraphRAG 需要具备一定的工程与大语言模型使用基础,并提前做好成本与环境准备。
1. 运行环境
- GraphRAG 是开源的 Python 框架,需通过命令行工具驱动,依赖 Python 运行环境
- 需配置大语言模型 API 密钥及相关参数,用于索引抽取与查询生成
2. 大语言模型接入
- 框架支持多种大语言模型后端,可基于配置切换不同的模型服务
- 需确认所选模型服务的数据处理与合规策略符合自身要求
3. 成本与数据准备
- 索引是 token 消耗较高的批处理过程,需提前预算 LLM 调用成本
- 官方建议在正式索引前先用小规模数据验证流程与成本
- 索引产物与向量嵌入需要相应的存储与向量检索组件支撑,可结合腾讯云向量数据库等组件构建检索层,知识图谱的存储与查询则可借助图数据库承载