tencentdb_ai RAG

tencentdb_ai.retrieve(
    embed_model    NAME,       -- 嵌入模型名称
    question       TEXT,       -- 查询问题
    source_schema  TEXT,       -- 知识库表所在 schema
    source_table   TEXT,       -- 知识库表名
    chunk_col      TEXT,       -- 文本块列名
    vector_col     TEXT,       -- 向量列名
    topn           INT  DEFAULT 10,    -- 返回 TopN 结果
    distance_type  TEXT DEFAULT 'L2'   -- 距离算法
) RETURNS SETOF tencentdb_ai.retrieve_result

retrieve_result AS (chunk TEXT, distance FLOAT8)

-- 欧几里得距离检索，返回 Top 3
SELECT chunk, TRUNC(distance::numeric, 4) AS distance
FROM tencentdb_ai.retrieve(
    'kinfra-text-embedding-0.6b',
    'PostgreSQL 支持哪些数据类型？',
    'public', 'knowledge_base', 'chunk', 'embedding',
    3, 'L2'
)
ORDER BY distance, chunk;

-- 余弦距离检索，返回 Top 5
SELECT chunk, TRUNC(distance::numeric, 4) AS distance
FROM tencentdb_ai.retrieve(
    'kinfra-text-embedding-0.6b',
    '向量检索怎么用？',
    'public', 'knowledge_base', 'chunk', 'embedding',
    5, 'cosine'
)
ORDER BY distance, chunk;

-- 内积检索
SELECT chunk, TRUNC(distance::numeric, 4) AS distance
FROM tencentdb_ai.retrieve(
    'kinfra-text-embedding-0.6b',
    '什么是全文搜索？',
    'public', 'knowledge_base', 'chunk', 'embedding',
    10, 'inner product'
)
ORDER BY distance, chunk;

tencentdb_ai.rag(
    embed_model    NAME,       -- 嵌入模型名称
    prompt_model   NAME,       -- 生成模型名称
    question       TEXT,       -- 用户问题
    source_schema  TEXT,       -- 知识库表所在 schema
    source_table   TEXT,       -- 知识库表名
    chunk_col      TEXT,       -- 文本块列名
    vector_col     TEXT,       -- 向量列名
    topn           INT  DEFAULT 10,    -- 召回 TopN
    distance_type  TEXT DEFAULT 'L2'   -- 距离算法
) RETURNS TEXT

用户问题 → retrieve() 召回 TopN 文档块
         → 拼接所有 chunk 构建上下文
         → 按模板构建 Prompt
         → chat_completions() 调用大模型生成
         → 返回生成结果

你是严谨的问答助手。请仅依据下列参考资料回答问题；
若资料不足以回答，请明确说明"根据已有资料无法回答"。

【参考资料】
{召回的所有文档块，以 --- 分隔}

【问题】
{用户问题}

-- 安装扩展（自动关联安装 pgcrypto、vector、pgmq）
CREATE EXTENSION IF NOT EXISTS tencentdb_ai CASCADE;

-- 注册嵌入模型（json_path 必须为 NULL，由 get_embedding 自行解析响应）
SELECT tencentdb_ai.add_model('kinfra-text-embedding-0.6b', NULL, NULL, NULL, 'tokenhub');
SELECT tencentdb_ai.update_model_attr('kinfra-text-embedding-0.6b', 'api_key', 'your_api_key');

-- 注册生成模型（json_path 指定响应解析路径）
SELECT tencentdb_ai.add_model('glm-5.2', NULL, NULL,
    '$.choices[0].message.content'::jsonpath, 'tokenhub');
SELECT tencentdb_ai.update_model_attr('glm-5.2', 'api_key', 'your_api_key');

-- 创建知识库表
CREATE TABLE kb_docs (
    id        bigserial PRIMARY KEY,
    title     text,
    chunk     text,
    embedding vector(1024)
);

-- 插入文档块并实时向量化
INSERT INTO kb_docs (title, chunk, embedding)
SELECT 
    'PostgreSQL简介',
    'PostgreSQL 是一个功能强大的开源对象关系数据库系统，拥有超过 30 年的积极开发历史，在可靠性、功能稳健性和性能方面赢得了良好的声誉。',
    (SELECT e::vector(1024) FROM tencentdb_ai.get_embedding(
        'kinfra-text-embedding-0.6b', 
        ARRAY['PostgreSQL 是一个功能强大的开源对象关系数据库系统，拥有超过 30 年的积极开发历史，在可靠性、功能稳健性和性能方面赢得了良好的声誉。']
    ) AS e LIMIT 1);

INSERT INTO kb_docs (title, chunk, embedding)
SELECT 
    'PostgreSQL特性',
    'PostgreSQL 支持丰富的数据类型：数值类型（integer, numeric, real）、字符类型（text, varchar）、日期时间类型（timestamp, date）、JSON/JSONB、数组、范围类型等。',
    (SELECT e::vector(1024) FROM tencentdb_ai.get_embedding(
        'kinfra-text-embedding-0.6b',
        ARRAY['PostgreSQL 支持丰富的数据类型：数值类型（integer, numeric, real）、字符类型（text, varchar）、日期时间类型（timestamp, date）、JSON/JSONB、数组、范围类型等。']
    ) AS e LIMIT 1);

INSERT INTO kb_docs (title, chunk, embedding)
SELECT 
    'pgvector介绍',
    'pgvector 是 PostgreSQL 的向量扩展，支持精确和近似最近邻搜索，支持 L2 距离、内积和余弦距离等多种相似度度量。',
    (SELECT e::vector(1024) FROM tencentdb_ai.get_embedding(
        'kinfra-text-embedding-0.6b',
        ARRAY['pgvector 是 PostgreSQL 的向量扩展，支持精确和近似最近邻搜索，支持 L2 距离、内积和余弦距离等多种相似度度量。']
    ) AS e LIMIT 1);

-- 创建向量索引（可选，提升检索性能）
CREATE INDEX ON kb_docs USING ivfflat (embedding vector_l2_ops) WITH (lists = 100);

SELECT chunk, TRUNC(distance::numeric, 6) AS distance
FROM tencentdb_ai.retrieve(
    'kinfra-text-embedding-0.6b',
    'PostgreSQL 支持什么数据类型？',
    'public', 'kb_docs', 'chunk', 'embedding', 3, 'cosine'
)
ORDER BY distance, chunk;

-- 一站式 RAG 问答
SELECT tencentdb_ai.rag(
    'kinfra-text-embedding-0.6b',
    'glm-5.2',
    '请介绍一下 pgvector 的主要功能',
    'public', 'kb_docs', 'chunk', 'embedding', 2, 'cosine'
) AS answer;

-- kb_empty 为与 kb_docs 结构相同的空表
SELECT tencentdb_ai.rag(
    'kinfra-text-embedding-0.6b', 'glm-5.2', '什么是数据库？',
    'public', 'kb_empty', 'chunk', 'embedding', 5, 'cosine'
) AS answer;

       answer
--------------------------
 "根据已有资料无法回答。"
(1 row)