AI-腾讯云开发者社区

开发者社区

文档建议反馈控制台

最新优惠活动

文章/答案/技术大牛

发布

AI

AI

专栏成员

10

文章

2024

阅读量

13

订阅数

Microsoft 发布 PyRIT - 生成式 AI 的红队工具

自动化网络安全人工智能

微软发布了一个名为PyRIT（Python风险识别工具的缩写）的开放访问自动化框架，用于主动识别生成式人工智能（AI）系统中的风险。

2024-10-08

1260

Google 提供基于AI的模糊测试框架

安全测试服务框架人工智能网络安全

模糊测试可以成为找出软件中零日漏洞的宝贵工具。为了鼓励开发人员和研究人员使用它，谷歌周三宣布，免费提供其模糊测试框架OSS-Fuzz。

2024-09-30

1500

一文了解什么是TTP — 技术、战术与程序

人工智能网络安全安全

导语：TTP的概念最早来自于军事领域及反恐活动，后面逐渐被应用到网络安全领域，在网络安全中，TTP（技术、战术与程序）是一个核心概念，它涵盖了攻击者使用的工具、技术和方法，以及他们执行攻击的步骤和过程。本文将简要探讨TTP的概念、重要性以及如何在网络安全实践中应用TTP来提高防御能力。

2024-09-20

2200

1500+ HuggingFace API token暴露，使数百万 Meta-Llama、Bloom 等大模型用户面临风险

网络安全 api 人工智能

HugginingFace 和 GitHub 是AI开发人员的重要平台，因此我们决定对这些平台做更为深入的研究。在这项研究中，我们发现了数以千计的 API 令牌，这些令牌暴露给恶意行为者，使数百万最终用户可能受到攻击。

2024-08-31

2180

开源网络安全大模型 - SecGPT

人工智能网络安全

网络安全大模型是指使用大量数据和参数来训练的人工智能模型，它可以理解和生成与网络安全相关的内容，例如漏洞报告、利用代码、攻击场景等。

2024-08-27

2660

大模型在安全领域的十大应用场景及实现路径

应用/实战人工智能网络安全

作为网络安全及AI的双重爱好者，笔者也一直在关注大模型在安全领域的相关应用，从目前市面上看到的产品来说，相关的结合还在一个较为早期的阶段，很多产品能力也是为了大模型而大模型，并未真正发挥其价值。

2024-08-26

2670

大模型在网络安全领域的七大应用

漏洞人工智能安全

人工智能（AI）是指由计算机系统或机器执行的智能任务，通常需要人类智能来完成。AI的一个重要分支是自然语言处理（NLP），即让计算机理解和生成自然语言。NLP的一个核心技术是语言模型（LM），即用数学模型描述自然语言的规律和特征。

2024-08-23

4610

作为网安从业者，如何抓住这波AI浪潮？

网络安全安全人工智能

在AI席卷全球的大环境下，人工智能势必也将对网络安全行业造成深刻的影响，作为安全从业者，相信大家跟我一样，都在思考如何能够跟上时代的浪潮，更好的将自己的一身安全技能跟AI结合起来，或者说如何利用AI对当前的网络安全做出一些改变。

2024-08-20

1110

ChatGPT改变网络攻防？

chatgpt 人工智能网络安全安全

ChatGPT 是迄今为止增长最快的消费者应用程序。非常受欢迎的生成式 AI 聊天机器人，能够生成类似人类、连贯且与上下文相关的响应。这使得它对于内容制作、编码、教育、客户支持甚至个人协作等应用程序非常有价值。

2024-08-15

1400

暗网热卖的GenAI账户：背后的洞察

在数字时代，生成式人工智能（GenAI）技术正以惊人的速度改变各行各业。无论是在内容创作、图像生成，还是在编程和自动化任务中，生成式AI都展现了其无穷的潜力。然而，这种技术的普及和强大功能不仅引起了科技界的关注，也引来了不法分子的觊觎。近年来，暗网（Darknet）中关于被黑的生成式AI账户的交易日益活跃，这些账户已经成为暗网市场上最炙手可热的商品之一。

2024-08-06

650

没有更多了

社区活动

【纪录片】中国数据库前世今生

穿越半个世纪，探寻中国数据库50年的发展历程

Python精品学习库

代码在线跑，知识轻松学

博客搬家 | 分享价值百万资源包

自行/邀约他人一键搬运博客，速成社区影响力并领取好礼

技术创作特训营·精选知识专栏

往期视频·千货材料·成员作品最新动态