帮你快速理解、总结文档立即下载

安全治理概述

最近更新时间:2026-09-20 16:17:31
本文档已由 AI 辅助审校
我的收藏
企业使用大模型时,通常需要解决几类安全问题:调用凭证是否受控、输入输出是否存在风险、敏感数据如何保护,以及调用流量是否经过公网。TokenHub 从基础安全、内容安全、数据安全和网络安全四个维度提供能力,帮助企业建立访问有边界、内容有防护、推理数据受保护、网络路径可管理的模型使用环境。

能力总览

安全维度
核心模块
关注问题
核心能力
基础安全
身份与访问治理
谁可以调用、允许调用什么?
异常消耗和调用行为能否追溯?
按应用或环境使用独立 API Key,限定可访问的模型、推理服务与来源 IP,并通过 Token 额度约束用量;调用元数据可投递至 CLS,用于事后核查与排障。
内容安全
大模型内容风险治理
输入是否包含攻击或违规内容?
输出是否可能造成不当披露?
联合 LLM-WAF 检测提示词与模型响应,识别提示词攻击、违规内容和敏感信息,并按放行、拦截或代答策略处置,同时支持企业自定义规则。
数据安全
机密数据保护
业务明文如何防范未授权读取?
推理环境是否可验证?
通过端到端加密使业务内容在客户端与可信推理环境之间保持密文,在受保护的推理环境内完成解密与推理,并借助远程证明提供环境验证依据。
网络安全
私有网络隔离
模型调用能否沿私网传输?
企业内网如何接入?
基于 PrivateLink 建立 VPC 到 TokenHub 的私网连接,配合 PrivateDNS 沿用原接口域名,并支持多 VPC、跨云与混合云网络接入。

基础安全:身份与访问治理

基础安全面向企业日常模型接入,控制调用权限和用量边界,并保留调用追溯依据。

相关能力

能力
说明
凭证与访问控制
按应用、团队或环境使用独立 API Key,限定可访问模型、推理服务及来源 IP;发生泄露或停用业务时,可禁用或删除对应凭证,缩小影响范围,详情请参见 API Key 管理。
异常用量保护
按 Key 配置日、月或总 Token 额度,达到上限后阻止后续调用,降低异常脚本或凭证滥用带来的消耗风险,详情请参见 API Key 管理。
调用审计与追溯
将调用元数据投递至 CLS,按 Request ID、API Key ID 等信息定位模型调用;确需排障时,可按需开启包含请求与响应明细的调用日志,并相应控制访问权限与保留周期,详情请参见 审计日志与调用日志。

适用场景

业务场景
安全价值
多团队统一使用 Coding、Agent 和办公助手
不同应用需要不同模型与额度,通过独立 Key 划分访问和用量边界,避免一把共享凭证承担全部业务权限。
生产、测试环境并行运行
测试脚本只能使用限定服务;异常 Key 可单独禁用,并通过日志核查其调用对象和结果,不必同时更换全部应用凭证。

内容安全:大模型内容风险治理

面向用户开放的模型应用会接收不可预期的输入,生成内容也需要符合业务规则。TokenHub 联合腾讯云 Web 应用防火墙(简称 WAF,为腾讯云独立计费产品,计费标准参见 LLM-WAF 计费详情),将用户输入的提示词和模型生成内容同步送至 WAF 检测,识别提示词注入、内容违规和敏感数据泄露等风险,并按配置的策略放行、拦截或代答,详情请参见 内容安全防护。

相关能力

能力
说明
提示词攻击防护
对大模型交互的输入进行安全检测,拦截多种类型的 Prompt 注入攻击。
内容合规检测
对输入和输出内容进行合规检测,识别涉政、色情等违规内容。
敏感数据检测
对大模型交互进行数据分类与脱敏检测,保护企业敏感数据及个人身份信息(PII)不被泄露。
自定义防护规则
支持针对数据分类、涉敏信息、关键词、提示词注入、正则表达式及编码类型识别等场景自定义防护规则。

适用场景

业务场景
安全价值
智能客服与对外问答
用户可能注入恶意指令或索取不应公开的信息,可在请求进入模型前及响应返回用户前进行风险检测。
医疗咨询与企业知识助手
输入输出可能包含患者或客户信息,也可能涉及机构限制讨论的内容,可通过敏感信息检测与自定义规则建立业务防护边界。

数据安全:机密数据保护

部分业务需要模型处理敏感数据本身,例如分析授信材料、审阅源代码或总结商业合同。TokenHub 的机密推理能力基于可信执行环境、远程证明和端到端加密,为包含敏感数据的模型调用提供受保护的推理链路。该能力支持用户输入在客户端加密,以密文形式通过网络和服务接入链路,仅在经过验证的可信推理环境内解密并完成推理;模型响应在可信环境内重新加密,由客户端解密。
说明:
机密推理能力受邀开放,需选择模型单元计费方式,支持的地域、模型、资源规格和协议以控制台实际可选范围为准。

相关能力

能力
说明
端到端加密
客户端先建立安全会话并加密请求,结果由服务端加密返回、客户端解密,保护客户端与可信推理环境之间的业务内容。
可信环境内处理
在受保护的推理环境内完成解密、模型推理和响应加密,降低业务明文被未授权读取的风险。
远程证明
客户端在发送数据前验证硬件证明材料及其与会话的绑定关系,平台结合可信准入与运行时度量校验安全基线,并在服务详情提供安全报告。

适用场景

业务场景
安全价值
金融业务分析与智能风控
申请材料、交易特征和分析结果具有较高敏感度,除传输保护外,还需要了解数据处理环境的可信状态。
企业知识、代码与敏感文档处理
内部源代码、合同和研发资料作为模型上下文时,需要保护输入材料及生成结果,而非仅在输出端检测敏感词。
智能终端与个人数据处理
助手将日程、用户指令等上下文交由云端模型处理,需要保护上传内容及返回结果。

网络安全:私有网络隔离

模型调用通常承载业务提示词和生成内容,调用量大、链路长。当请求经由公网到达模型服务时,API Key 与业务数据会暴露在公共网络路径上,面临链路窃听、DNS 劫持和接口被外部探测的风险;金融、政务、医疗等行业的内控与合规要求,往往也明确限制核心系统通过公网访问外部服务。将模型调用收敛到私有网络内是企业把大模型接入生产系统的前置条件,适用场景如下:
业务场景
安全价值
核心业务系统接入大模型
交易、风控、客服等系统部署在腾讯云 VPC 内,模型调用可全程在私网完成,请求不经过公网,降低链路暴露面并满足内网访问的合规要求。
多 VPC 与混合云架构
业务分散在多个 VPC,或部分系统位于本地机房和其他云,可按需分别建立私网访问路径,统一收敛模型调用的网络入口。
TokenHub 基于 PrivateLink 为客户 VPC 建立私网连接,所选 VPC 内所有子网均可通过内网调用模型;结合 PrivateDNS 将接口域名解析到内网终端节点,应用可沿用原有调用配置。详情请参见 网络配置。