白山云李国：AI大模型对网络安全的影响是利大于弊

访谈嘉宾：白山云李国

2023年，AI大模型无疑是最火热的话题。在AI大模型的驱动下，整个信息科技领域故事不断。而聚焦网络安全，AI大模型同样上演着连台好戏，全球众多网络安全厂商纷纷布局。例如微软在ChatGPT基础之上推出了安全分析助手Security Copilot，谷歌推出人工智能安全工作台Security AI Workbench，AI大模型正在为网络安全开辟出新的想象空间。

日前，白山云科技产品副总裁李国在接受安全牛采访时表示，AI大模型技术带来的安全挑战和安全防护能力提升并存，两者相爱相杀，动态博弈，这也将推动网络安全应用市场形成翻天覆地的变化。

李国

现任白山云科技产品副总裁。拥有16年云领域业务、实践与管理经验。2015年入职白山云科技，先后在资源建设、质量规划、业务运营、产品规划等多个业务领域有突出的贡献和沉淀。现负责公司安全产品、产品市场等规划和管理工作，致力于做强边缘云安全能力，打造云大物移新场景、新技术下的安全产品矩阵和场景化解决方案。

AI大模型引发安全市场变革

谈到AI大模型对于网络安全领域的影响，李国认为，任何事物都有其两面性。一方面，AI大模型增加了被攻击的风险面，而且模型本身可能存在缺陷或后门，被利用来生成有害内容。同时，随着AI大模型应用的普及，黑客的攻击成本和难度都大幅降低，导致攻击威胁量上升。

比如，在网络钓鱼攻击这一常见场景中，AI大模型能够大大降低攻击的成本和难度，从而带来新的挑战。传统网络钓鱼攻击通常靠黑客手动创建欺骗性邮件内容，费时费力，且容易出现破绽。而利用AI大模型来生成钓鱼邮件，可通过分析大量合法邮件样本，学习模仿真实机构的邮件格式、用语和风格，再结合攻击对象的个性和实际状态，生产定制化内容，快速生成更逼真的欺骗性邮件，让被攻击者更容易受骗。

同时，攻击者还可以通过精心设计的对抗性样本来欺骗AI模型，使其产生误判。此外，AI大模型可能通过学习包括个人隐私数据的大量数据来训练模型。这也引发了大众和行业对隐私泄露和数据滥用的担忧，特别是在涉及用户敏感信息的安全应用中。

但另一方面，AI大模型的分析学习能力可以用来发现网络异常、优化防御策略、对抗新型攻击等，这些有利于提高网络安全防护能力。

李国认为，AI大模型不仅可以分析海量非结构化文本，发现网络安全威胁的迹象，还可以通过机器学习快速发现未知的网络攻击模式并建立检测模型；借助强化学习进行红蓝对抗找出安全漏洞；通过上下文关联进行更有效的网络安全决策、风险评估、资源分配和制定安全策略。此外，还可以通过自然语言交互，降低对运营人员的专业要求，从而缓解安全领域人才短缺问题，同时提高运营效率，实现降本增效。总之，AI大模型将极大增强网络安全分析、检测、策略制定等多个方面的能力，使网络安全从以前的半自动化，沿着智能化快速转变。

网络安全防线与攻击手段进行“军备竞赛”，这促使双方的AI能力不断提高。在这个过程中，防守方利用AI的优势进行主动防御，进而促使整个网络环境向着更安全的状态演进。因此总体来说，AI大模型为网络安全带来的影响将是利大于弊。

AI在网络安全领域大有可为

随着AI在安全领域的应用不断深化，安全市场的格局或将发生变化。在当前的网络安全领域，专家经验非常重要。但随着AI大模型的应用，这种经验很快就能积累起来，还能不断学习进步。因此那些能够更快地整合和提供AI技术和安全能力，以及拥有大量数据和资源的厂商，会在市场中占据领先地位。

从目前的市场情况来看，国内众多企业已经在AI大模型的网络安全应用方面进行了探索和验证。而对比传统的安全企业，本身就拥有巨大的算力和数据资源优势的云服务厂商，对AI技术和大模型的布局应用同样值得关注与期待。

以白山云为例，公司目前在AI领域进行了积极的探索和积累。早在2017年，白山云就成功推出了基于AI的态势感知平台“深度威胁识别ATD”，以实时流式大数据分析为基础，通过无监督学习算法，在不依赖标注样本、不依靠人工规则的前提下，能够准确识别异常威胁，尤其可以深层次发现用户之前没有感知到的未知威胁。当前，洞察到AI大模型在网络安全领域的巨大应用潜力，白山云正基于大模型对现有产品进行迭代和升级，让产品更加智能。

例如在云WAF产品方面，以前WAF产品主要采用规则匹配的方式来识别和阻断攻击流量。随着Web漏洞数量的不断增加，以及攻击方式的不断变化，需要通过持续更新和扩大规则库的方式来进行维护，工作繁琐且误报和漏报频繁发生。现在，白山云尝试借助更加高级的语义理解能力，实现更加精准和智能的防护。

而在零信任安全访问方面，白山云利用AI模型分析用户行为模式，评估并动态调整用户的可信度，实现基于行为的细粒度访问控制，与由用户及实体行为、大数据、威胁情报等构建的智能安全感知平台联动，为企业级用户构建智能检测、风险评估、预警响应的持续安全验证平台，帮助用户完善面向实战、高效、智能的安全运营体系。

此外，白山云还将AI大模型应用在安全运营中心（SOC）场景中。安全信息和事件管理（SIEM）是SOC的基础，涉及海量历史日志的分析和取证、实时分析日志和事件数据、提供威胁监控和时间响应的关联。利用大模型的语义理解和代码生成能力，可以有效提升SIEM的效率和准确度。

同时，李国也表示，白山云希望能够为客户提供「网络+安全+计算」一体化的边缘云服务，对AI的探索与应用并不仅限于安全产品层面。例如，在网络层面，白山云正在积极探索基于AI的下一代的无边界网络形态，为每个站点、云、远程用户或物联网设备提供一体化、智能化的边缘网络链接能力，让客户可以从真正云网融合一体化方面受益；在计算层面，AI技术与边缘计算技术结合，可使计算和网络能够更好地支持分布式应用和设备，给客户带来更智能、高效和安全的网络体验。

白山全球边缘云服务架构

李国认为，尽管目前AI大模型在网络安全领域的应用仍存在很多短板和挑战，例如模型后门检测和防范手段不够完善、模型生成内容检测质量参差不齐、模型的黑盒性质使得结果的可解释可验证性差、缺乏统一的AI安全标准与规范等等。但毋庸置疑的是，AI与网络安全的融合必将成为主流，助力企业迈向智能化安全的新阶段。同时，未来5—10年，网络安全市场将成为技术创新的战场，智能化、数据隐私保护、多维度防御等趋势将推动网络安全行业向更高的水平迈进，为数字世界的安全提供更加坚实的保障。