什么是可信推理
可信推理是 HAI 面向高安全要求 AI 推理场景提供的服务形态。它在支持的可信执行环境(Trusted Execution Environment,TEE)中运行模型服务,降低模型权重、输入数据和中间计算结果在运行过程中被未授权访问或篡改的风险。
可信推理适用于“模型、数据或运行环境需要额外保护”的业务,而不是所有 AI 推理任务的默认选项。TEE 不能替代身份认证、传输加密、访问控制、密钥管理和业务系统自身的安全责任。
操作场景
当您需要降低模型权重、敏感数据或推理运行环境被未授权访问的风险时,可以使用可信推理。下表说明典型业务场景及需要关注的可信能力。
业务场景 | 主要顾虑 | 建议关注的可信能力 |
私有模型上云 | 模型权重不希望被未授权读取 | 运行时隔离、模型授权和密钥管理边界 |
金融、医疗、政务等敏感数据推理 | 输入、输出或中间结果涉及敏感信息 | TEE 保护范围、VPC 调用路径、鉴权和日志可见范围 |
模型方、数据方与基础设施方协同 | 多方之间需要降低信任成本 | 远程证明、责任边界和可验证的运行环境 |
合同或合规要求使用机密计算 | 需要特定运行环境或审计材料 | 支持地域、算力、证明材料和合规说明 |
标准推理与可信推理的区别
对比项 | 标准推理 | 可信推理 |
主要目标 | 快速、稳定地提供模型推理能力 | 在提供推理能力的同时加强运行时机密性 |
运行环境 | 标准云上推理环境 | 支持 TEE 的隔离执行环境 |
网络 | 可选择产品支持的公网或 VPC | 部分服务可能不提供公网地址,以实际控制台为准 |
可用模型/算力 | 以控制台为准 | 可能受地域、算力和模板限制 |
性能与费用 | 以实际配置和计费页面为准 | 以实际配置、压测结果和计费页面为准 |
保护范围与责任边界
可信推理旨在降低可信边界内运行的模型权重、输入数据、中间计算和关键组件被未授权访问或篡改的风险,但下列事项仍需由您设计和管理:
调用方账号、API Key/token 和最小权限;
VPC、路由、安全组和访问策略;
业务系统、客户端和机器人终端自身安全;
输入内容、提示词攻击和模型输出治理;
数据收集、使用、保留和主动导出明文数据的合规管理。
以下事项不当然属于可信推理的保护范围,需结合实际部署方案逐项确认:
安全能力:模型和数据进入可信边界前及离开可信边界后的传输加密、静态存储、密钥托管与访问控制;
基础设施边界:网关、负载均衡、存储、日志、监控和转储是否位于可信边界内;
用户可验证材料:远程证明材料是否提供,以及相应的获取、验证和异常处理方式。
模型输出在离开可信边界后的传输、存储、访问控制、使用及合规治理,由您结合实际部署方案负责。
使用可信推理
创建流程
1. 阅读 通过 HAI 可信集群快速部署模型服务,确认创建前提、地域和支持的模型;
2. 在 创建可信集群 页面,按需选择控制台支持的模型、算力、网络与安全类型;
3. 仅在控制台展示可信推理/机密计算选项且账号具备权限时,选择该安全类型;
4. 服务创建完成后,按 获取可信集群服务调用信息 获取调用地址、鉴权信息和网络要求;
5. 使用脱敏、模拟或已取得合法处理依据的测试数据验证网络、鉴权和模型调用,再接入生产流量。
如果创建页面未展示可信推理选项,应确认目标地域、模型、算力和账号是否支持该能力;不得用标准推理配置替代可信推理。
接口说明
性能与费用
TEE 可能影响服务启动时间、可用规格、网络方式和推理性能。上线前建议使用与生产一致的模型、接近生产的上下文长度和目标并发进行压测,并使用脱敏、模拟或已取得合法处理依据的测试数据。
常见问题
为什么没有公网调用地址?
部分机密计算服务可能仅提供 VPC 地址。请按服务详情页的网络信息配置调用方连通性。
使用 TEE 后是否不需要加密和鉴权?
不是。TEE 只解决特定可信边界内的运行时隔离问题;传输加密、身份认证、访问控制、密钥管理和业务安全仍需配置。
出现网络或鉴权错误如何处理?
依次检查服务状态、调用地址、VPC/公网类型、路由和安全策略、鉴权信息、模型名称及 RequestId。无法解决时,携带脱敏后的 RequestId 和错误码联系技术支持。