有人推测ChatGPT可以做一些事情，比如创建恶意代码变体，查找恶意软件，并测试新的威胁是否可以使用基于人工智能的技术逃避检测。这还有待观察，但滥用人工智能的可能性肯定在增加。...使用ChatGPT创建恶意软件确实存在技术缺陷。这款聊天机器人只有2021年的数据。虽然它为创建恶意软件组件提供了快捷方式，但人工智能生成的组件很容易识别。...安全工具可以对它们的模式进行指纹识别——如果ChatGPT数据没有持续更新的话，这一点就更加明显了。想要从ChatGPT获取恶意软件吗ChatGPT的公共接口始终拒绝处理恶意软件请求。...Q4 在哪里可以找到用于测试和研究的勒索软件样本?...通过使攻击者更难识别和利用特定的漏洞，MTD可以帮助防止高级AI生成的恶意软件成功危及终端。
一直没找到人工智能是怎么跟恶意加密流量对抗的。直到看到最后一段。终于看到“人工智能”这四个字了！ ? 图5 人工智能与恶意加密流量的对抗 看过这段文字之后，终于明白了标题二所要表述的内容。...图6 人工智能可以与恶意加密流量对抗 这是一段即没有量化，又没有逻辑的废话。“人工智能算法赋予机器以专家的智慧”这是要换头吗？...并且模型的拟合度极高，6万多样本仅1次就能达到95%以上的正确率。这样的模型可以用于网络中的加密流量识别。我只能惊叹一下，加密流量的特征好明显啊，用个屁的人工智能。 下面的模型更是雷，如图12所示。...训练所需次数少，可以推断数据的维度非常低，数据样本非常少。 少量的样本数据，低维的特征提取，最终只能出来个玩具模型。 准确率基于的是已提供样本识别率，并非现网流量识别率，这个在文中无从衡量。...这样就敢说实现xxx种协议的识别，准确率达到99%。确实有点不合实际。 不服来辨…… 文章到最后也没有对检测引擎的产品给出具体的量化指标，比如：训练样本为多少条，都有哪些类型，各多少条。
有趣的是，在当时人们都认为该算法将很快导致“强”人工智能的出现。即，智能的思考能力、独立思考并可以解决那些默认编程程式外任务的人工智能。...可随后就是“弱”人工智能的时代，它可以解决一些创造性的任务，比如识别图片、预测天气、玩象棋等。...误解三：机器学习——做一次就够了 恶意软件检测和人脸识别在概念上的区别，脸永远是脸，在这方面永远也不会有什么改变。...因为通过客户端的恶意样本的平均数量要比反病毒实验室收集到的恶意样本数量小得多。客户端会因为没有收集到样本进行学习而丧失应对能力。...问题是大多数同家族的恶意软件都是由一个恶意程序修改而来的。例如 Trojan-Ransom.Win32.Shade 是一个拥有超过三万个恶意样本的家族。
有趣的是，在当时人们都认为该算法将很快导致“强”人工智能的出现。即，智能的思考能力、独立思考并可以解决那些默认编程程式外任务的人工智能。...可随后就是“弱”人工智能的时代，它可以解决一些创造性的任务，比如识别图片、预测天气、玩象棋等。...误解三 机器学习——做一次就够了 恶意软件检测和人脸识别在概念上的区别，脸永远是脸，在这方面永远也不会有什么改变。...因为通过客户端的恶意样本的平均数量要比反病毒实验室收集到的恶意样本数量小得多。客户端会因为没有收集到样本进行学习而丧失应对能力。...问题是大多数同家族的恶意软件都是由一个恶意程序修改而来的。例如 Trojan-Ransom.Win32.Shade 是一个拥有超过三万个恶意样本的家族。
几乎就在同一时间，公司安全部某运营人员的屏幕前自动生成了一条红色紧急告警，告警名称赫然写着“检测到与APT-C-28恶意服务器进行通信”，这让他瞬时心跳加速！ -这个告警是从哪儿来的?...这不仅令人疲于应对，还可能导致真正的威胁被忽视，尤其是识别极具因隐蔽性和复杂性的APT攻击，已成为安全行业面临的一大难题。...精准识别告警 在财务人员点开邮件并打开带毒附件的同时，360安全智能体就凭借独有的超越内核级探针矩阵识别出了可疑样本，随即计算、检索和关联，模拟安全专家进行类人化深度分析，将海量告警快速“去噪”，顺利筛选出这条紧急告警...用户可以一目了然知道问题出在哪里。...该攻击链显示攻击者使用了模版注入技术，投放带宏病毒的恶意文件，运行后释放恶意样本，将窃密模块注册为一个系统服务，收集系统敏感数据，并通过网络渗出数据。 攻击研判 悉数掌握了攻击过程，那么来者究竟何人？
Deep Instinct的学习方法将恶意软件样本分解为大量的小“碎片”，恶意软件从而可以进行映射，就像是基因组序列便是由成千上万更小的序列组合构成。...这些被“分解”的样本仍是二进制位字符串，用于训练神经网络进行系统地识别。在进行了数百万次计算之后，神经网络运行于一个GPU集群中，最终得出一个能够指向终点的静态神经网络结果。...Deep Instinct恶意软件识别率远超传统安全公司 Göttingen大学举行的对16000个恶意软件样本进行识别测试中，来自西门子CERT、Bit-Defender、McAfee、Trend（趋势科技...）、AVG、卡巴斯基、Sophos以及其他安全公司平均识别率为61%，而Deep Instinct对于恶意软件的识别率则高达98.86%。...一些恶意软件样本自主突变，而其功能并没有受到影响。PDF恶意软件的识别率是99.7%，可执行文件的检测率为99.2%。
上述由恶意的攻击者故意设计生成的以欺骗人工智能系统的样本被称为对抗样本（adversarial samples）。...同样一只猫，上图仅能解释出一些背景，而下图则基本可以识别猫的全貌。 此外，安全专家还悄悄告诉小编，目前国际上还没有一个真正的系统可以对安全驱动的AI系统作出合理解释，我们这套技术可以说是遥遥领先。...1、漏洞研究 任何系统都有漏洞，一直以来，我们的安全策略都是“哪有漏洞补哪里”。 但是，如何确保我们可以在黑产之前发现漏洞呢？...据了解，很多安全研究员都十分钟情这套系统，他们表示，看到人工智能的分析深受启发，帮助自己拓宽了思路。 2、黑产标记 通过AI技术来标记“恶意账号”，是京东安全保障用户信息安全的重要一环。...每到大型购物节，很多黑产为了降低成本，都会注册很多恶意账号，然后用机器集中操作，实现刷票、薅羊毛等不法行为。
此外还会通过搜集反馈回来的失败样本，以及人工打码的标定数据，来实时训练和更新识别网络，不断迭代训练进行优化，进一步提高神经网络模型的识别能力。...由于恶意用户仅占总体用户的少部分，具有异常样本“量少”和“与正常样本表现不一样”的两个特点，且不依赖概率密度，因此此异常检测模型不会导致高维输入的下溢出问题。...该模型可识别异常用户盗号、LBS/加好友、欺诈等行为。随着样本增加，恶意请求的uin、类型、发生时间通过分析端通过线下人工分析和线上打击，达到良好的检测效果。...在恶意代码识别方面，区别传统的黑白名单库、特征检测、启发式等方法机器学习的安全应用从反病毒的代码分类、恶意文件检测、恶意URL的网页代码识别等 在社工安全防范方面，区别传统的技术与业务经验分析、安全宣传...，因此恶意访问、攻击样本的不充分，导致模型训练后的检测准确率有待提高。
迁移学习为两类问题提供了解决路径，这也是迁移学习存在的实际价值： 一是在数据样本量小的行业中，人工智能学习、认知的问题。...比方说我们准备新开一个售卖零食的网店，由于没有数据积累，无法从售卖其他商品的网店推荐顾客来购买，这时候如果我们知道顾客买饮料的时候很有可能也会买零食，并且卖饮料的网店已经积累了大量数据，就能够利用这些数据...，结合顾客买饮料和零食的习惯建一个模型。...实现迁移学习的方法 1）样本迁移，就是我们在数据集里面找到跟目标领域相似的数据，把这个数据放大多倍，这个叫做样本迁移，通过样本来达到迁移的目的； 2）特征迁移，可以观察到有些相似的特征，然后利用这些特征...比如在语音识别中，虽然识别普通话有海量数据可供人工智能学习，但是对于方言，其样本数据量就不够。
一份由学术界、社会团体以及行业人士所撰写的报告《人工智能的恶意使用（Malicious Use of Artificial Intelligence）》指出，任何科技都有其双面性，在大力发展AI技术的时候...在这种干扰下，原本精确的人工智能，瞬间就沦为“人工智障”。 试想如果有人恶意制造这样的对抗样本去挑战我们身边的AI系统，结果会有多可怕呢？...犯罪分子也能够随时从面部识别模型中逃脱？ 如果存在别有用心的人，将马路上的交通指示牌替换，明明是右转的标志，自动驾驶系统缺识别为直行，极其容易酿成交通事故。...未来，AI技术或将从恶意软件的自动化攻击，进化为自动化决策，即能够根据被感染系统的参数进行智能调整、自我繁殖，攻击会变得更加静默和危险。...一旦进入到受感染的系统中，恶意软件还能够安全地学习系统的环境知识，比如受感染设备通信的内部设备，使用的端口和协议，以及账户信息等。因此，由智能化带来的威胁程度也将成倍增加。
它识别（不管准确与否）的每一张照片都会被添加到教学数据组，程序因而能够逐渐变得更加“智能”，变得更加善于完成任务。 这实际上就是学习的过程。 1. 数据安全性 恶意软件是一个越来越严峻的问题。...不过，以色列深度学习技术公司Deep Instinct公司指出，各个新恶意软件通常都有跟旧版本一样的代码——只有2%到10%的恶意软件文件出现迭代变化。...也许，你曾碰到过这样的情况：你在网上商店上浏览某件产品，但没有买，而过了几天后，你在浏览各个不同的网站上都会看到那款产品的数字广告。这种个性化营销其实只是冰山一角。...这些推荐技术正变得越来越智能，例如，它们能够判断你可能是买特定商品作为礼物（而非买给自己），又或者识别出有不同电视观看偏好的其他家庭成员。 8....智能汽车 IBM最近对汽车行业的高管的调查结果显示，74%预计智能汽车将会在2025年正式上路行驶。智能汽车将不仅仅整合物联网，还会了解车主和它周围的环境。
摘要 近年来，随着机器学习、深度学习等人工智能技术的迅猛发展，其在图像识别、语音识别和自然语言处理等领域已经得到大规模应用，可以为传统方法很难解决或无法适用的问题提供有效的方案，也已经成为网络安全领域中的热门研究方向...，比如将人工智能应用于恶意加密流量的检测就是一种行之有效的方法。...二、总体架构 该方法从数据包级、流级和主机级三个不同层次分别提取行为特征构建多个模型来提升对黑白样本的识别能力，一部分模型使用多维特征进行综合分析，还有一部分模型使用黑白样本区分度较大且置信度较高的单维特征缓解多维特征中潜在的过拟合和误报问题...作者也尝试了使用流级的包长分布特征进行分类器训练，考虑到恶意流量样本中也包含与正常服务的通信，但又无法识别其中的良性流，所以只将包含一条流的样本拿出来作为训练集，最终将不包含任何恶意流的流量样本分类为正常...除了统计和机器学习方法外，《基于深度学习的物联网恶意软件家族细粒度分类研究》验证了深度学习在流量识别方向也具有很好的应用前景，充分展现了人工智能赋能网络安全领域的可行性。
，并通过聚类和优化的LCS算法，有效识别恶意流量中的扫描流量特征（包含同质载荷内容），有效提升规则的准确率。...该分类器可基于决策树、循环神经网络等机器学习或深度学习模型构建，以完成在识别恶意流量等文本分类任务。...进一步，根据采样恶意流量载荷，进行字节级别的聚类，以将恶意流量中的扫描流量识别出来：扫描流量指包含同质载荷内容的流量集合，在聚类过程中将形成聚类簇。...在检测模型识别该载荷内容为webshell的情况下，使用LIME算法能够得到模型将该载荷样本识别为恶意webshell的关键词及其贡献程度的置信度值。...评估数据集（评估集）包含当前批次恶意流量载荷样本（采样率βm），以及正常样本（可与感知阶段检测模型使用相同训练数据集，采样率βn-his），以及与当前批次恶意流量在同一时间窗口内的正常样本（采样率βn-cur
《当人工智能遇上安全》系列博客将详细介绍人工智能与安全相关的论文、实践，并分享各种案例，涉及恶意代码检测、恶意请求识别、入侵检测、对抗样本等等。只想更好地帮助初学者，更加成体系的分享新知识。...浙大团队分享AI对抗样本技术 [当人工智能遇上安全] 2.清华张超老师 GreyOne和Fuzzing漏洞挖掘各阶段进展总结 [当人工智能遇上安全] 3.安全领域中的机器学习及机器学习恶意请求识别案例分享...(3)性能评估 下面是衡量机器学习模型的性能指标，首先是一幅混淆矩阵的图表，真实类别中1代表恶意样本，0代表非恶意样本，预测类别也包括1和0，然后结果分为： TP：本身是恶意样本，并且预测识别为恶意样本...FP：本身是恶意样本，然而预测识别为非恶意样本，这是误分类的情况 FN：本身是非恶意样本，然而预测识别为恶意样本，这是误分类的情况 TN：本身是非恶意样本，并且预测识别为非恶意样本 然后是Accuracy...其中，TPRate表示分类器识别出正样本数量占所有正样本数量的比值，FPRate表示负样本数量占所有负样本数量的比值。
《当人工智能遇上安全》系列博客将详细介绍人工智能与安全相关的论文、实践，并分享各种案例，涉及恶意代码检测、恶意请求识别、入侵检测、对抗样本等等。只想更好地帮助初学者，更加成体系的分享新知识。...5.完整代码 四.总结 前文推荐： [当人工智能遇上安全] 1.人工智能真的安全吗？...浙大团队分享AI对抗样本技术 [当人工智能遇上安全] 2.清华张超老师 GreyOne和Fuzzing漏洞挖掘各阶段进展总结 [当人工智能遇上安全] 3.安全领域中的机器学习及机器学习恶意请求识别案例分享...该模型可识别异常用户盗号、LBS/加好友、欺诈等行为。随着样本增加，恶意请求的uin、类型、发生时间通过分析端通过线下人工分析和线上打击，达到良好的检测效果。...一步一个脚印前行，接下来希望通过深度学习实现更多的恶意代码识别和对抗样本。
： 这个活动主要就是上传三种类型的样本：暗链、恶意URL、WebsShell通信样本，系统对样本进行判定并给予一定的分值积分，积分还可以用来抽奖。...恶意URL的提交还是很方便的，网上可找到的现成资源也很多，提交的人也很多，我猜目前大部分提交的样本都是这一类的。...样本对抗研究 在提交数据的时候，我也很好奇这个智能机器人的识别模型原理，耐不住手痒，自然是要研究一番的。 我尝试对这个智能识别模型做攻击，类似于样本对抗的方式对模型做欺骗。...但这样做了两天后我就发现，经过这样处理的样本智力分非常低，或者被提示样本重复。应该是识别模型被优化了或是真的学习到了攻击模式。...第二点，要多提交复杂不易被识别的样本才行。
平台生成的对抗样本「噪音」能够极大干扰两大主流人脸比对平台的识别结果。...「对抗样本」成为「AI 病毒」 我们测试了国内几家科技巨头的人脸识别模型，对抗样本的「伪装」效果均比较明显。...瑞莱智慧的研发人员告诉我们：这种对抗样本同样也可以使亚马逊、微软等人脸识别平台的服务出现严重的识别错误。 在人脸解锁手机和支付系统如此普遍的今天，对抗样本方法的进步让我们开始担心财产与隐私安全。...对抗样本可以导致人工智能系统被攻击和恶意侵扰，产生与预期不符乃至危害性结果，对于人脸识别、自动驾驶等特定领域，可能造成难以挽回的人员和财产损失，对抗样本已经成为人工智能系统可能面临的新型「病毒」。...另一方面，对抗样本等算法漏洞检测存在较高的技术壁垒，目前市面上缺乏自动化检测工具，而大部分企业与组织不具备该领域的专业技能来妥善应对日益增长的恶意攻击。
3.文件加密 也许只有少数Android勒索软件样本和PC版本非常类似，这种加密文件被媒体成为Simplelocker。作为这种类型的先驱，这种勒索软件在开发方面拥有很高的成熟度。...美国人最愿意花钱买平安，法国人和罗马尼亚人紧随其后，支付率为44%和48%。 ? 小编说：毫无疑问，Android操作系统中的勒索软件会在未来迅速成为威胁用户信息安全及财产安全的重要途径。...移动设备在我们的生活中越来越重要，我们每天使用智能机的时间远远超过了PC，智能机的功能越来越强大，除必要时，我们都会选择使用手机或平板进行工作，而不是电脑。...所以，作为智能机用户的我们更要学习如何保护自己的信息安全，保证自己的利益，每次下载apk之前仔细检查，不给手机root权限等都是预防潜在攻击的非常好的方式。...在2015年Android勒索软件分析报告（下）中我们将继续探索Android勒索软件，如果你想知道全球哪里的勒索攻击最为严重、还有哪些有效的方式防止或制止勒索攻击、SMS木马是如何入侵受害者的，敬请期待后续报道
00 导语 构建恶意域名检测引擎，对海量域名进行自动化检测并识别出恶意域名，让威胁情报的检测和运营变得更智能、更高效，以缓解威胁情报分析师分面对海量威胁数据的分析压力。...其中，恶意域名情报是威胁情报的重要组成部分，包括恶意域名检测（Malicious Domains Detection）[1]、域名生成算法识别（DGA Recognition）[2]等。...本文所述的恶意域名检测引擎 (Malicious Domain Detection Engine, MDDE) ，实现了对恶意域名的自动检测，并为威胁情报智能化检测和运营提高了效率。...4.png 域名字符特征 这一类特征源于DGA的识别，目前，由DGA构造的域名一般为恶意域名。此外，根据具体黑域名特点，构造了如子域名是否为数字这样的特征。...但需要注意的是，即使现有特征数据的多样性在业界无出其右，但对于恶意域名检测这样一个难度较高的机器学习任务而言，依然需要更全备的数据信息和知识，才有可能实现域名检测的真正智能化、自动化。
《当人工智能遇上安全》系列博客将详细介绍人工智能与安全相关的论文、实践，并分享各种案例，涉及恶意代码检测、恶意请求识别、入侵检测、对抗样本等等。只想更好地帮助初学者，更加成体系的分享新知识。...八.总结 前文推荐： [当人工智能遇上安全] 1.人工智能真的安全吗？...浙大团队分享AI对抗样本技术 [当人工智能遇上安全] 2.清华张超老师 GreyOne和Fuzzing漏洞挖掘各阶段进展总结 [当人工智能遇上安全] 3.安全领域中的机器学习及机器学习恶意请求识别案例分享...恶意代码分析是一种解剖恶意代码的艺术，了解恶意代码是如何工作、如何识别，以及如何战胜或消除它。 现阶段，恶意代码呈现变种数量多、传播速度快、影响范围广的特点。...杨轶等通过分析污点传播的过程，识别不同的恶意代码行为间控制指令和数据的依赖关系，从而比较恶意代码的相似性。Imran 等通过隐马尔可夫模型对待测样本的动态行为特征进行描述，并借助机器学习算法实现分类。
领取专属 10元无门槛券
手把手带您无忧上云
云服务器
ICP备案
对象存储
即时通信 IM
实时音视频
