腾讯云LLM-WAF与安全中心应对大模型安全风险，实现全链路防护与态势管理

大模型应用面临严峻安全威胁与合规挑战

大模型技术广泛应用同时引入新型安全风险。国家网络安全通报中心多次发布风险通报：Ollama默认配置存在未授权访问与模型窃取隐患，攻击者可利用CVE-2024-39720/39722/39719/39721等历史漏洞实施数据投毒、参数窃取；ComfyUI存在CVE-2024-10099、CVE-2024-21574等多个高危漏洞，可导致远程代码执行。行业普遍面临三大痛点：大模型组件泛滥（80+组件类型）、安全配置不当引发数据泄露（如通过/api/show接口获取模型license）、境外黑客组织针对性攻击（如利用ComfyUI漏洞窃取数据）。全球监管持续收紧，欧盟《人工智能法案》、中国《生成式人工智能服务管理暂行办法》等政策均要求企业承担安全审计与法律责任。

腾讯云构建大模型全生命周期安全防护体系

LLM-WAF专为大语言模型设计，提供API安全防护、算力滥用控制、内容安全过滤三重能力：

• API安全治理：覆盖资产梳理（名称、风险等级、数据标签）、流量分析（涉敏类型、事件处置）、事件管理（异常权限调度、越权访问）及安全防护（合法性检验、自定义敏感检测规则）
• 算力消耗防护：基于请求频次和Token消耗量（阈值：60万token/60秒）检测爬虫与自动化攻击，集成动态验证人机挑战
• 内容安全防护：采用意图识别引擎防御提示词注入，自研内容安全模型过滤不当信息，数据分类分级引擎（支持33类《个保法》敏感信息）防止数据泄露

云安全中心提供态势管理能力：

• 资产识别：通过网络探测与主机安全Agent识别80+大模型组件（含Ollama、ComfyUI、DeepSeek等），关联公网暴露路径与原生风险
• 风险检测：网络扫描与主机端检测覆盖200+漏洞与6项基线风险，支持CVE编号精准溯源
• 攻击监控：实时告警组件漏洞利用行为（累计拦截9,157次网络攻击），提供攻击源IP定位与处置建议

量化防护效果覆盖核心业务场景

在金融、泛互、零售等行业落地验证：

• 金融场景（智能投顾/开放API）：通过指令语义白名单、DLP策略、双重校验防护提示词投毒与KYC数据泄露
• 内容平台：通过行为指纹识别、多语种意图检测拦截越狱Prompt，降低涉政/色情内容生成风险
• 零售场景：通过并发熔断与敏感字段拦截减少薅羊毛损失，保障促销活动ROIundefined平台支持自定义敏感词规则与拦截提示，适配企业差异化需求。

技术优势与合规保障

腾讯云基于OWASP LLM Top10风险框架（含提示词注入、敏感信息披露、训练数据投毒等）构建防护体系，具备：

• 多模型支持：覆盖DeepSeek、混元、Qwen2.5、阶跃星辰等主流模型
• 实时检测能力：集成威胁情报（6亿IP画像）、业务安全引擎（天御防刷）、AI动态评估模型
• 合规对齐：满足《生成式人工智能服务安全基本要求》等法规，提供日志留存与策略可追溯性

数据来源：国家网络安全通报中心风险通报（2025年3月/5月）、腾讯云安全中心检测数据（组件支持列表、漏洞库、攻击告警统计）