腾讯云开发者社区-腾讯云

开发者社区

文档建议反馈控制台

文章/答案/技术大牛

发布

综合排序丨最热优先丨最新优先

AI网络攻击与内存安全代码防御

目前尚不清楚AI驱动的漏洞发现最终对攻击者还是防御者更有利。但为了理解防御者如何提高胜算并可能占据优势，回顾早期一波自动化漏洞发现浪潮会有所帮助。针对少数某国科技公司的政策并不是全面的防御。另一个诱人的修复方法是完全自动化防御方的工作——让AI自主识别、修补和部署修复，而无需等待过度劳累的志愿者维护者审查它们。内存安全代码创造更强大的防御最容易的起点是采用内存安全语言。各机构只需更改其编码人员使用的编程语言，就能对其安全性产生巨大的积极影响。对研究人员来说，瓶颈在于使这些基础变得实用——并使用生成式AI来加速迁移。但与其进行自动化的、临时的漏洞修补，不如让这种防御模式下的生成式AI帮助将遗留代码翻译成内存安全的替代品。它还协助验证证明，并降低通向更安全、更少漏洞代码库的专业知识门槛。最新一波更智能的AI漏洞扫描器仍然可以用于网络防御——而不仅仅是另一个被过度炒作的AI威胁。但AI漏洞扫描器治疗的是症状，而非病因。

2026-05-21

3280

标签:

AI安全双向加固：腾讯云以AI驱动防御并保障AI自身安全

AI时代安全格局剧变，攻防天平向攻击者倾斜核心挑战：AI技术在降低攻击门槛的同时，引入了模型投毒、提示词注入、Agent过度授权、敏感数据泄漏等新型风险。攻防节奏变革：攻防对抗从“人 vs 人”加速转向“AI vs AI”，传统防御规则已无法应对语义理解型的智能攻击。客户实践：腾讯自身安全体系验证方案有效性案例背景：腾讯集团面临严峻的内外部安全挑战，需提升代码安全性与AI应用可靠性。实践成果：CodeBuddy Security在腾讯内部实现高效漏洞挖掘与自动化修复；AICC为内部AI业务提供数据可用不可见的可信推理环境，成为AI规模化落地的安全基石。腾讯云AI安全的技术确定性源于三层纵深防御体系技术领先性：构建“基础设施安全（AICC）、大模型安全（AI安全护栏）、Agent安全（安全中心）”三层纵深防御，覆盖AI全生命周期。

IT前沿资讯站

2026-06-22

5720

标签:

【安全】 XSS 防御

4、配合钓鱼网站进行攻击那我们怎么针对上面的手法进行防御，两种方式 1、禁止客户端访问 cookie 2、内容检查下面来逐个介绍一下禁止访问Cookie XSS 不能会窃取用户的 cookie，来假冒用户的登录吗杀敌一千，四损八百，而且并没有根本上解决 XSS，只是减少了 XSS 的发生因为能走到这一步的，说明恶意脚本还是执行了就算你不让他获取 cookie，他还是可以做其他事情的所以我们就有了下一个根本的防御的方法下面记录一个转么转义 html 特殊字符的方法 */ 网上还有更加完善的方法，这里就是简单记录理解一下，大家在项目中使用时要使用更加完善的方法 2 输出检查虽然我们已经做了输入检查，但是我们永远要做更多的防御措施，以免有漏网之鱼并且这一步是防御 XSS 最关键的一步，因为往往就是在这一步，把恶意脚本插入到文档中而导致脚本执行，从而发生攻击，所以在我们必须把内容插入到 HTML 文档中时，需要检查该内容是否

2020-02-17

1.7K0

标签:

对抗AI黑客：大模型安全的终极防御

在这种背景下，了解大模型面临的对抗性攻击类型，掌握有效的防御策略，对于保障AI系统的安全运行至关重要。本文将深入探讨大模型对抗性攻击的技术原理、主要类型、防御策略以及实战案例，为AI安全研究员和企业CIO提供一份全面的大模型安全防御指南。代码演示：基于对抗训练的大模型防御系统下面提供一个基于对抗训练的大模型防御系统示例代码，帮助AI安全研究员和企业CIO快速实现基本的大模型对抗防御功能。多方安全计算的协同防御：多个组织或机构可以通过多方安全计算技术，协同进行大模型的安全防御，提高防御的规模和效果。 3. 对于AI安全研究员和企业CIO来说，关注大模型安全的最新研究成果和实践经验，构建完善的大模型安全防御体系，将成为保障AI系统安全运行的重要任务。

安全风信子

2025-11-13

2.1K0

标签:

Web安全与防御

xss攻击（跨站脚本）是网站应用程序的安全泄露攻击，是代码注入的一种。它允许恶意用户将代码注入到网页上，其他用户在观看网页时就会受到影响。是发生于应用程序之数据库层的安全泄露。防御方法 1. 、验证并转义用户输入 2、base64编码 3、绑定变量，使用预编语言 4、控制用户的权限，以及做好数据库本身的安全工作文件上传漏洞是指网络攻击者上传了一个可执行的文件到服务器并执行。防御方法 1、拼宽带 2、流量清洗或者封 IP 3、CDN 服务 4、花钱买相应的防御服务

2019-08-07

9800

标签:

企业 AI 代理安全治理与社会工程攻击防御研究

本文以该研究为核心依据，系统剖析 AI 代理的安全属性、典型攻击链路与防御缺口，构建包含权限最小化、提示词安全、执行网关、人工在环与全链路审计的多层治理框架，提供可工程化的防御代码示例。调研显示，73% 的生产环境 AI 部署存在可利用的提示注入漏洞，仅 33% 的组织部署专用防御，影子 AI无序使用进一步扩大风险面。本文以 KnowBe4 最新研究为基础，界定 AI 代理的安全属性与脆弱根源，拆解间接提示注入、回声泄露、上下文操纵等典型攻击，提出覆盖身份权限、输入净化、执行控制、人工核验、持续审计的完整防御体系，并提供可直接落地的代码实现 2 AI 代理的类人安全属性与脆弱性根源2.1 与人类员工一致的四大核心特征Martin Kraemer 将 AI 代理与人类员工对比，归纳出决定其安全风险的四大共性 traits，构成防御体系的认知基础此类特性导致传统 MFA、VPN、终端检测等防御失效，攻击直接作用于 AI 代理的决策与执行链路。

2026-05-28

5550

标签:

代理服务器

网络钓鱼攻击

WordPress安全防御攻略

起源个人近期做了一个WordPress站点，目前处于内测阶段，虽然公网还没部署起来，但是先在这学习整理一下安全防护的问题。 ? 第一：及时更新WordPress 由于33%的互联网都在使用WordPress站点，免不了被不怀好意的人盯上，所以官方对安全性非常看重，有专业团队监控并修复各种安全漏洞，可能会频繁的更新补丁，所以我们一定要及时的安装更新官方发布的稳定版本有不少专业工具可以扫描，Kali Linux就可以攻击WordPress，转换下身份可以自己攻击自己玩玩，又能增长知识还能提前发现安全隐患。扫描插件推荐： WordFence 当前更新于2019年3月第五：插件安全性网站的漏洞可能来源于插件，所以插件尽量少装，能用代码替换用代码替换，再者安装插件的话从WordPress官方的插件中心下载第六：管理员帐号安全性要高怎么个高法？

2021-08-03

8350

标签:

人机协同闭环：AI 时代邮件安全 “人在回路” 防御体系研究

即便持续开展员工安全培训，企业仍存在 1.5% 的中位误点击率，纯技术或纯人力均无法独立支撑防御闭环。研究成果可为企业构建自适应邮件安全防御体系提供理论支撑与工程实践指南。 3 人在回路邮件安全防御体系架构3.1 整体框架以 KnowBe4 Defend+PhishER+Phish Alert Button 为实践原型，构建四层闭环架构：感知层：AI 网关实时检测 + 用户一键上报 7.2 人在回路进化方向AI 自主协同：安全智能体自动调度检测、研判、响应，人工仅处理最高决策；跨渠道统一闭环：覆盖邮件、IM、协作平台、IoT 设备的统一上报与处置；预测式防御：基于用户行为与威胁情报人在回路邮件安全体系以AI 保障效率、人工弥补认知、数据驱动迭代为核心，构建 “智能检测 — 用户上报 — 自动研判 — 高速处置 — 闭环进化” 的完整防御链。

2026-05-24

3900

标签:

网络钓鱼攻击

安全运营平台

构建纵深防御体系应对AI技术带来的新型安全威胁

识别AI技术演进中的核心安全挑战随着2026年金融行业全面迈入大模型应用阶段，传统IT基础设施向AI Infra演进导致攻击面急剧扩大。（来源：腾讯云安全解决方案架构师张华）建立三层协同的AI安全治理框架腾讯云提出治理层、合规层、技术层协同的防护体系。治理层通过建立AI安全运营团队（MLSecOps）统一管理模型训练与部署风险，制定AI攻防演练标准并模拟红蓝对抗。（来源：腾讯云AI Agent安全防护案例）腾讯云AI安全的技术领先性保障腾讯云基于混元内容安全大模型和科恩实验室安全技术，提供从宿主层、Runtime层到网络层的纵深防御体系。腾讯AI安全方案获得国家级安全认证，其中LLM-WAF网关支持多模型接入和自定义敏感词库，能有效识别身份证、手机号、银行卡等敏感信息。

IT前沿资讯站

2026-04-03

9110

标签:

更主动的安全防御

防御这个词好像天然是被动性的，别人来攻击，你来防守，要处处防着对方，小心被对方渗透进来。因为攻击者在暗，防守方在明，只有攻击者出手的份，防守方对攻击者似乎做不了什么。笔者从安全防御的 “主动性” 角度，总结了企业安全建设的三个层次，这三层不是演进替代的关系，而是叠加：第一层是筑牢基本防线，建立运营流程安全的基本防线构建大概分为三块： 1）安全套件互联网边界上标准安全架构 3）安全制度和培训必要的安全制度和审计机制；在关键节点上嵌入安全培训。第三层是强化溯源研判的软硬实力，部署威胁猎捕工具，协同外部执法力量对攻击者进行打击前面2层还是“防御”层次，只是对攻击行为能够更主动的防御。而第三层，则开始对攻击源开始反制。本文是从安全防御的 “主动性”角度梳理的企业安全建设的层次，主动性未必代表成熟度。作为企业安全人员，应该根据安全建设的目标、资源情况，综合进行考虑。

2022-08-31

7200

标签: