首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往
您找到你想要的搜索结果了吗?
是的
没有找到

仅花费60美元就能破坏0.01%数据集,AI模型性能显著降低

机器之心报道 编辑:袁铭怿 网络规模的数据集很容易受到低成本的投毒攻击,这种攻击只需要一小部分被破坏的样本就可以使整个模型中毒。 用于训练深度学习模型的数据集已经从数千个精心策划的示例增长到具有数十亿个从互联网自动爬取样本的网络规模数据集。在这种规模下,通过人力管理来确保每个示例的质量是不可行的。到目前为止,这种数量高于质量的权衡是可以接受的,一方面是因为现代神经网络对大量标签噪声具有很强的适应力,另一方面是因为对噪声数据的训练甚至可以提高模型在非分布数据上的效用。 虽然大型深度学习模型对随机噪声具有一定

03

不要再「外包」AI 模型了!最新研究发现:有些破坏机器学习模型安全的「后门」无法被检测到

一个不可检测的「后门」,随之涌现诸多潜伏问题,我们距离「真正的」机器安全还有多远? 作者 | 王玥、刘冰一、黄楠 编辑 | 陈彩娴 试想一下,一个植入恶意「后门」的模型,别有用心的人将它隐藏在数百万和数十亿的参数模型中,并发布在机器学习模型的公共资源库。 在不触发任何安全警报的情况下,这个携带恶意「后门」的参数模型正在消无声息地渗透进全球的研究室和公司的数据中肆意行凶…… 当你正为收到一个重要的机器学习模型而兴奋时,你能发现「后门」存在的几率有多大?根除这些隐患需要动用多少人力呢? 加州大学伯克利分校、麻省

04

不要再「外包」AI 模型了!最新研究发现:有些破坏机器学习模型安全的「后门」无法被检测到

大数据文摘授权转载自AI科技评论 作者 | 王玥、刘冰一、黄楠 编辑 | 陈彩娴 试想一下,一个植入恶意「后门」的模型,别有用心的人将它隐藏在数百万和数十亿的参数模型中,并发布在机器学习模型的公共资源库。 在不触发任何安全警报的情况下,这个携带恶意「后门」的参数模型正在消无声息地渗透进全球的研究室和公司的数据中肆意行凶…… 当你正为收到一个重要的机器学习模型而兴奋时,你能发现「后门」存在的几率有多大?根除这些隐患需要动用多少人力呢? 加州大学伯克利分校、麻省理工学院和高级研究所研究人员的新论文「Planti

02

肿瘤酸性pH激活的纳米荧光探针指导临床手术治疗

肿瘤细胞的代谢导致实体肿瘤独特的酸性微环境,但利用肿瘤和正常组织之间不稳定的细胞外pH差异用于临床一直是具有挑战性的。本文报道了ONM-100,一种基于纳米颗粒的荧光显像剂的临床转化。这是由一种与吲哚菁绿偶联的超pH敏感的两亲性聚合物组成的,由于纳米级大分子协同作用的机制,这种聚合物在酸性的肿瘤细胞外微环境中迅速不可逆转地解离产生荧光。在这项研究(荷兰国家试验登记#7085)中,作者报告了ONM-100的耐受性良好,在30名受试者中可以在体内和体外观察到四种实体肿瘤类型。ONM-100能够检测到9/9受试者的肿瘤阳性切除边缘,以及另外4个以其他方式遗漏的隐匿性病变。因此,这种pH可激活的光学显像剂可能在临床上有益于区分以前不可开发的狭窄生理差异。

01

腾讯安全报告显示男人比女人更易中毒, 屌丝越穷越易骗

近日,腾讯安全联手中国人民大学,共同发布《2014年度互联网安全报告》(下称《报告》)。报告指出,目前社会民众对互联网安全的感知整体只算是及格水平,未来必须提升相关安全意识才能促进整体社会的网络安全感。   “当我们去年提出’安全连接一切’战略的时候,一下子打开了’安全’的边界”。腾讯公司副总裁丁珂指出,新时代的“互联网安全”已经不是单纯的技术问题,而是复杂多变的社会问题,并且涉及各行各业,渗透普罗大众的日常生活。“唤醒普通网民的互联网安全意识,是腾讯安全应尽的社会责任,所以我们与中国人民大学合作,

06

动物与人类存在的「关键学习期」,联邦学习也有

关于关键学习期问题,我们之前撰写过这样一篇文章深度学习中的关键学习期(Critical learning periods)。生物学领域的研究人员已经确定,人类或动物存在关键期的原因是对神经元可塑性窗口的生物化学调控(the biochemical modulation of windows of neuronal plasticity)[1]。从生物学角度来看,关键期(critical periods)是指出生后早期发育的时间窗口,在这期间,感知缺陷可能导致永久性的技能损伤。生物学领域的研究人员已经发现并记录了影响一系列物种和系统的关键期,包括小猫的视力、鸟类的歌曲学习等等。对于人类来说,在视觉发育的关键时期,未被矫正的眼睛缺陷(如斜视、白内障)会导致 1/50 的成人弱视。

03

DNS流量分析——使网络更安全

人们很容易忽视域名系统(DNS)及其在整个互联网和本地内部网中发挥的关键作用。这主要是因为,尽管我们每天都依赖DNS,但它对用户基本上是透明的,而且我们都理所当然地认为它会正常工作。当普通人打开网络浏览器,输入www.baidu.com、www.taobao.com或任何其他网站名称,却看不到该网站时,经常会听到类似“互联网坏了!”的声音。“嗯……不,互联网很少“坏掉”,但很有可能是DNS出了问题。安全专业人士越来越多地认识到DNS也是攻击网络的潜在威胁载体。DNS设计的时候甚至还没有考虑到互联网的安全性……这是一个不存在的想法;当时使用互联网的组织只有隐性信任。DNS很容易被利用其不安全但又无处不在的特性而出现任何数量的显著利用,包括DNS查询的重定向和缓存中毒(通常是到恶意网站)、网络足迹(通过泄漏区域信息和反向查询)、拒绝服务,甚至是数据外漏。

06
领券