CLB 模型路由提供 WAF 大模型安全防护和安全组防护能力。
大模型安全是 Web 应用防火墙(WAF)提供的 AI 内容安全防护能力,专门针对大模型应用场景,对用户与大模型之间的交互内容进行实时安全检测,防范 Prompt 注入攻击、敏感信息泄露、有害内容生成等风险,保障大模型业务的安全合规运行。详细介绍请参见 业务接入。
前提条件
2. 已创建模型路由实例,详细操作指导请参见 创建模型路由实例。
配置 WAF 大模型安全
1. 登录 模型路由 控制台,在实例管理页面,单击目标实例名称,进入目标实例的实例管理页面。
2. 切换至安全防护页签。
3. 在安全防护页面,WAF 大模型安全区域,单击开启防护。
4. 在弹出的配置窗口中,配置以下参数:
参数 | 说明 |
WAF 实例 | |
Service 信息 | 选择需要防护的 Service。系统将自动拉取该实例下已配置的 Service 列表。 |
最大检测对话轮数 | 设置连续对话内容检测的最大轮数,取值范围 1-20,默认值为5。 仅在连续对话内容检测开启后生效。 连续对话内容检测:开启后,WAF 将根据配置的提示词位置提取最新 N 轮的 prompt 内容,发送给 prompt 注入检测模型进行检测。任意一轮对话命中即视为攻击。 默认关闭。 |
5. 单击确定,完成 WAF 安全防护配置,操作完成后,实例的安全防护状态将变更为"已开启",表示该实例已成功接入 WAF 安全防护。
6. 您可以在 WAF 控制台 的防护概览页面查看攻击统计和防护日志,确认防护效果。当您不再需要 WAF 防护时,可以关闭实例的安全防护功能。
注意:
开启 WAF 安全防护后,WAF 实例将开始计费,请确保账户余额充足。
首次开启防护建议选择观察模式,确认业务流量正常后再切换为拦截模式,避免因误拦截影响业务。
若 WAF 实例到期未续费,防护功能将自动失效,请及时续费。
配置安全组
1. 登录 模型路由 控制台,在实例管理页面,单击目标实例名称,进入目标实例的实例管理页面。
2. 切换至安全防护页签。
3. 在安全防护页面,安全组配置区域,单击配置。
4. 在弹出的配置窗口中,选择安全组,并单击确定。