帮你快速理解、总结文档立即下载

可信推理与 TEE

最近更新时间:2026-09-01 18:26:30
我的收藏

什么是可信推理

可信推理是 HAI 面向高安全要求 AI 推理场景提供的服务形态。它在支持的可信执行环境(Trusted Execution Environment,TEE)中运行模型服务,降低模型权重、输入数据和中间计算结果在运行过程中被未授权访问或篡改的风险。
可信推理适用于“模型、数据或运行环境需要额外保护”的业务,而不是所有 AI 推理任务的默认选项。TEE 不能替代身份认证、传输加密、访问控制、密钥管理和业务系统自身的安全责任。

操作场景

当您需要降低模型权重、敏感数据或推理运行环境被未授权访问的风险时,可以使用可信推理。下表说明典型业务场景及需要关注的可信能力。
业务场景
主要顾虑
建议关注的可信能力
私有模型上云
模型权重不希望被未授权读取
运行时隔离、模型授权和密钥管理边界
金融、医疗、政务等敏感数据推理
输入、输出或中间结果涉及敏感信息
TEE 保护范围、VPC 调用路径、鉴权和日志可见范围
模型方、数据方与基础设施方协同
多方之间需要降低信任成本
远程证明、责任边界和可验证的运行环境
合同或合规要求使用机密计算
需要特定运行环境或审计材料
支持地域、算力、证明材料和合规说明

标准推理与可信推理的区别

对比项
标准推理
可信推理
主要目标
快速、稳定地提供模型推理能力
在提供推理能力的同时加强运行时机密性
运行环境
标准云上推理环境
支持 TEE 的隔离执行环境
网络
可选择产品支持的公网或 VPC
部分服务可能不提供公网地址,以实际控制台为准
可用模型/算力
以控制台为准
可能受地域、算力和模板限制
性能与费用
以实际配置和计费页面为准
以实际配置、压测结果和计费页面为准

保护范围与责任边界

可信推理旨在降低可信边界内运行的模型权重、输入数据、中间计算和关键组件被未授权访问或篡改的风险,但下列事项仍需由您设计和管理:
调用方账号、API Key/token 和最小权限;
VPC、路由、安全组和访问策略;
业务系统、客户端和机器人终端自身安全;
输入内容、提示词攻击和模型输出治理;
数据收集、使用、保留和主动导出明文数据的合规管理。
以下事项不当然属于可信推理的保护范围,需结合实际部署方案逐项确认:
安全能力:模型和数据进入可信边界前及离开可信边界后的传输加密、静态存储、密钥托管与访问控制;
基础设施边界:网关、负载均衡、存储、日志、监控和转储是否位于可信边界内;
用户可验证材料:远程证明材料是否提供,以及相应的获取、验证和异常处理方式。
模型输出在离开可信边界后的传输、存储、访问控制、使用及合规治理,由您结合实际部署方案负责。

使用可信推理

可信推理是可信集群的安全模式。本页用于说明概念、适用场景和责任边界;具体创建步骤请参见 创建可信集群
使用前,请确认目标地域、模型、算力和账号支持可信推理。服务创建完成后,请参见 获取可信集群服务调用信息 获取调用地址、鉴权信息和网络要求。

创建流程

1. 阅读 通过 HAI 可信集群快速部署模型服务,确认创建前提、地域和支持的模型;
2. 创建可信集群 页面,按需选择控制台支持的模型、算力、网络与安全类型;
3. 仅在控制台展示可信推理/机密计算选项且账号具备权限时,选择该安全类型;
4. 服务创建完成后,按 获取可信集群服务调用信息 获取调用地址、鉴权信息和网络要求;
5. 使用脱敏、模拟或已取得合法处理依据的测试数据验证网络、鉴权和模型调用,再接入生产流量。
如果创建页面未展示可信推理选项,应确认目标地域、模型、算力和账号是否支持该能力;不得用标准推理配置替代可信推理。

接口说明

HAI 推理服务的管理 API 与模型推理调用接口用途不同。创建或管理服务时,请以当前 API 参考文档 和控制台实际配置为准。
模型推理的 Base URL、路径、模型名称、鉴权 Header 和网络要求以 获取可信集群服务调用信息 为准。接入时,建议先使用脱敏或模拟数据验证最小调用链路。

性能与费用

TEE 可能影响服务启动时间、可用规格、网络方式和推理性能。上线前建议使用与生产一致的模型、接近生产的上下文长度和目标并发进行压测,并使用脱敏、模拟或已取得合法处理依据的测试数据。

常见问题

为什么没有公网调用地址?

部分机密计算服务可能仅提供 VPC 地址。请按服务详情页的网络信息配置调用方连通性。

使用 TEE 后是否不需要加密和鉴权?

不是。TEE 只解决特定可信边界内的运行时隔离问题;传输加密、身份认证、访问控制、密钥管理和业务安全仍需配置。

出现网络或鉴权错误如何处理?

依次检查服务状态、调用地址、VPC/公网类型、路由和安全策略、鉴权信息、模型名称及 RequestId。无法解决时,携带脱敏后的 RequestId 和错误码联系技术支持。