腾讯医疗行业大模型及大模型知识引擎产品能力、应用与架构概览

数据来源： 腾讯医疗健康事业部、CSIG云与智慧产业事业群，《腾讯大模型产品能力介绍以及应用探索》，2024年5月。

一、 产品定位与核心亮点

1. 大模型知识引擎（企业级LLM）

技术定义： 基于行业大模型构建，专注于实现知识处理和对话交互全面升级的企业级解决方案。

核心差异化：

• 低门槛部署： 专为既没有业务专家团队、也没有技术专家团队的客户设计，支持分钟级搭建并生效。
• 知识增强： 解决了通用模型（如ChatGPT）在垂直领域知识深度不足、时效性弱、训练成本高及无法处理企业内网信息隔离的问题。
• 技术架构： 结合企业级LLM、向量数据库与知识构建能力，支持直接学习文档并生成对话。

2. 医疗行业大模型

技术定义： 深度训练学习海量优质医疗数据的生成式大语言模型，适用于有业务专家团队、没有技术专家团队的客户。

核心差异化：

• 专业对齐： 通过RLHF（反馈强化）引入医生打分排序机制，使模型回复兼具专业性与患者关怀，更像医生。
• 知识深度： 灌注1000亿字医疗数据、3000万个问答对，结合天衍医学知识图谱（Jarvis-KG），覆盖98% ICD疾病知识。

3. TI平台（行业大模型开发应用一体化平台）

技术定义： 面向既有业务专家团队、也有技术专家团队客户的精调与部署平台。

核心差异化：

• 开发效率： 提供统一的大模型调用API，大幅缩短业务接入周期。
• 性能加速： 全新升级Angel训练框架，性能提升30%；推理加速能力，加速比可达2倍。

二、 产品应用场景

三、 应用框架和功能介绍

1. 功能框架

• 知识处理层： 支持多形式企业知识导入、数据自动处理、知识块/文本块切分、向量数据库存储。
• 模型能力层： 问题理解、对话生成、实体搜索、安全审核。
• 应用原子能力： 文档解析、向量检索、多轮改写、知识问答、文档问答、知识总结、分类/标签提取。

2. 硬核指标

• 医学知识图谱（天衍 Jarvis-KG）： 实体数量 285万，关系数量 1250万，医学知识覆盖率 98%，精准率 >85%。
• 训练数据规模： 医疗数据 1000亿字，3000万个问答对，36万组标注比对数据。
• TI平台性能： Angel训练框架性能提升 30%；推理加速比 2倍；接入高性能文件存储，提供百GB每秒带宽。
• 专利与论文： 拥有 5000+ AI相关专利，发表顶会论文 800+ 篇。

3. 产品优势

• 拟人化交互： 回复自然，支持语音输入，具备安全审核机制。
• 全链路知识管理： 从非结构化数据（教材、论文、病历）到结构化数据（知识图谱）的全面处理。
• 多任务支持： 支持医患对话生成、导诊、预问诊、辅诊、智能问答、合理用药等任务。
• 超长文本处理： 针对患者数据（几万到十几万字），通过实体抽取+名称标准化，有效控制输入长度，解决推理速度慢的问题。
• 合规与伦理： 遵循医学伦理原则，尊重病人隐私和自主权。

4. 荣誉背书

• 医疗AI三类证： 腾讯是唯一具有 3个 医疗AI三类证的大厂（涵盖青光眼、宫颈癌、肺炎）。
• 国际竞赛：
  • 腾讯优图实验室多次在人工智能国际权威比赛中创造世界纪录。
  • “神农”多语言预训练模型获国际权威榜单XTREME总榜及全赛道全球第一。
  • 国际顶级图学习榜单OGB上，获得图属性预测赛道等全部四项榜单第一。
  • Text2SQL榜单（CoSQL、Sparc数据集）第一。

四、 典型案例

案例1：上海某三甲医院（智能院务客服）

• 背景： 上海市级医院“便捷就医服务”数字化转型2.0智能云客服场景试点医院，需缓解客服压力，提供7x24小时服务。
• 解决方案： 结合大模型与数字人技术，部署智能院务客服，支持院务问答、健康咨询、语音输入及地理位置查询。
• 成效：
  • 4月20日上线，高峰期1个月内数据：
    • 累计服务患者：40000人
    • 累计咨询次数：80000次
    • 单日咨询峰值：7000次
  • 患者咨询意图分布：门急诊预约挂号（18%）、门诊就诊时间（3%）、缴费支付（3%）、检验检查（2%）。

案例2：医药政策追踪与AI分析（文献处理）

• 背景： 需要快速比对《国家三级公立医院绩效考核操作手册》2022版与2023版的差异。
• 解决方案： 利用大模型输入指标名称（如“国家组织药品集中采购中标使用比例”），自动提取并对比不同年份的指标属性、定义、计算方法及说明。
• 成效： 模型精准识别出2023版在分子（中标药品用量计算方式）、分母（同种药品用量定义）及延伸指标（带量购销合同考核）上的具体差异，输出结构化对比表格。

案例3：患者画像构建（标签提取）

• 背景： 需要从多轮医患对话中自动抽取关键信息，支持后续智能运营。
• 解决方案： 对对话进行要素识别、实体识别（如姓名、年龄、病史、过敏源、病情描述）。
• 成效： 成功生成结构化患者画像，示例输出包含：姓名（金某某）、年龄（48岁）、职业（大货车司机）、既往病史（高血压5年以上）、药物过敏源（青霉素类抗生素）、病情描述（头晕，胳膊麻木）。

案例4：医患对话自动生成病历文书

• 背景： 医生需手动书写病历，工作量大；需验证模型生成病历的准确性。
• 解决方案： 输入问诊对话历史，模型自动生成包含主诉、现病史、辅助检查、既往史、诊断、建议的诊疗报告。
• 成效： 模型输出结果与真人医生标注结果非常近似。例如针对“夜间咳嗽、磨牙”患儿，模型准确诊断“消化不良”并给出具体用药建议（小儿消积止咳口服液等）。
• 进展： 正在与某头部医院（出院小结、随访记录）和医疗器械厂商（ICU每日病程记录）合作。

案例5：患者个性化查询（超长文本检索）

• 背景： 病人住院数据长达几万到十几万字，导致模型推理速度慢，难以直接查询特定信息（如近3天用药）。
• 解决方案： 通过LLM实现问题中的实体抽取+名称标准化，结合本地药物知识图谱，快速检索相关部分。
• 成效： 成功检索出患者近3天的抗感染药物使用明细，包括“注射用哌拉西林钠他唑巴坦钠”和“伏立康唑片”的具体使用时间、规格及剂量。

五、 行业趋势与腾讯能力底座

1. 行业趋势

• 市场规模： 我国10亿参数规模以上的大模型已发布 79个（截至报告发布时，国内已有200+大模型推出）。
• 落地实效： 2024年1-4月，大模型相关中标金额达到2023年全年中标披露金额的 77%。
• 企业应用： 51%的受访企业使用AIGC技术或工具用于“文本生成”场景，产业落地已过“尝鲜期”。

2. 腾讯AI研究能力

• 实验室矩阵： 下设腾讯优图实验室、腾讯云小微、AI LAB等顶级人工智能实验室。
• 技术突破： 在计算机视觉、智能语音、自然语言处理、机器学习等领域取得多项突破。
• 模型底座： 通用大模型腾讯混元提供底层支持。