刚刚我们在音频里所提到的,是一年前轰动全球的大事件: 2016年5月7号,在美国的佛罗里达州,一辆特斯拉径直撞上一辆行驶中的白色大货车,酿成了世界上自动驾驶系统的第一起致命交通事故。 照理说,特斯拉配备的是当今最顶尖的自动驾驶技术,对这里的人工智能来说,区分好一朵白云和一辆白色大货车,不该是最起码的要求吗? 事实却是,人工智能在很多地方都不如三岁的小孩,而且很容易被愚弄,黑客们也正在利用这一点。 为此,我们特地请到张重阳博士,深入来聊人工智能的安全话题。我们先来看看张博士对此的介绍。 警惕人工智能中的木
“人工智能”一词最初是在1956 年Dartmouth学会上提出的。人工智能(Artificial Intelligence),英文缩写为AI,是研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门新的技术科学。
前几日肆虐全球的“wannacry”勒索病毒着实让我们惊出一身冷汗。如果这都惊到你了,那你是不知道人工智能系统中木马病毒的厉害,因为它所带来的损失可能不止是金钱,更可能是生命! 但是你了解人工智能系统中的木马病毒吗?你知道黑客可以通过哪些手段对人工智能系统进行攻击呢? 在本文中,我们就来聊聊人工智能的安全问题。 作者 | 张重阳 近期wannacry敲诈勒索病毒全球大规模爆发,在全国大范围蔓延,感染用户主要集中在企业、高校等内网环境。中招系统文档、图片资料等常见文件都会被病毒加密,然后向用户勒索高额
本次报告介绍了深度学习安全性和可信性的关键问题,从对抗攻击、对抗防御和攻防平台三个方面介绍了目前的研究现状,同时带来了研究团队在这些关键问题上的最新研究成果,最后对发展安全可靠、鲁棒可理解的第三代人工智能进行了展望。
嘿, Siri:语音处理 ---- 以 Siri 为例分享了语音处理的一些技术进展。其要点如下: 语音处理可以分为语音识别和语音合成两类任务; 语音合成过程包括文本分析、音韵生成、单元选择、波形串联等
在人类的眼中,下面的三张图片分别展示了三样不同的东西:一只鸟、一只狗和一匹马。但对于机器学习算法来说,这三者或许表示同样的东西:一个有黑边的白色小方框。
当我们在谈论人工智能的时候,我们究竟在谈论什么?是“机器人超越人类阅读水平,令数百万人面临失业风向“还是“计算机的阅读能力正在赶超人类?”
机器之心发布 清华大学人工智能创新团队 清华大学张钹院士带领的人工智能创新团队在 NIPS 2017 AI 对抗性攻防竞赛中获得冠军(指导教师:朱军、胡晓林、李建民、苏航),战胜来自斯坦福、约翰霍普金斯大学等世界著名高校在内的 100 多支代表队,在人工智能技术的鲁棒性和安全性应用方面迈出了重要一步。 以深度学习为代表的人工智能系统近年来在图像分类、目标识别等诸多任务中都获得了突破性进展,但是研究发现深度学习模型在鲁棒性上存在严重的不足,很多在特定数据集上测试性能良好的模型反而会被一些人眼不容易识别的「对抗
网络安全领域的独特对抗属性给人工智能应用落地带来了重重困难,但我们并不认为这最终会阻碍人工智能成为网络安全利器。我们尝试分析了人工智能在网络安全应用里的潜在困难,并试着解决它们。
AI 科技评论按:3 月 30 日 - 31日,AITech 峰会在深圳龙岗区成功举办。
本文讨论了人工智能(AI)的真假问题,作者认为真正的AI应该能够自主思考,而不仅仅是根据人类编写的脚本工作。作者认为,通用人工智能(AGI)这一愿景值得怀疑,因为如果机器能够自主思考,那么他们也应该享有权利。此外,作者还提到了对抗网络等新兴技术,这些技术可能会使AI之间的智慧较量变得更为复杂。
今天带来的文章,由同济大学研究生张子豪投稿。介绍了人工智能与信息安全的交叉前沿研究领域:深度学习攻防对抗。
选自the Verge 作者:James Vincent 机器之心编译 参与:Ellen Han、黄小天 威廉·吉布森(William Gibson)写于 2010 年的小说《零历史(Zero History)》中有这样一个场景:一个角色穿着迄今为止「最丑陋的 T-shirt」展开了危险的突袭,T-shirt 可使其对闭路电视(CCTV)隐身。在尼尔·斯蒂芬森(Neal Stephenson)的小说《雪崩(Snow Crash)》中,一个位图图像被用来传递可扰乱黑客大脑频率的病毒,借助计算机增强的视觉神经
8月3日,首届全球数字经济大会在京召开。在人工智能产业治理论坛上,来自我国人工智能领域的顶尖科学家,围绕主题“探索创新、共举担当”展开前沿对话。
Hello folks,我是 Luga,今天我们来聊一下人工智能生态核心技术—— AIGC,即 “生成式人工智能” 。
2016年3月,AlphaGO横空出世,击败人类顶尖职业棋手,引爆了人工智能热潮。之后AlphaGO Master和AlphaGO Zero更是无情的碾压人类棋手,人们终于认识到,人类迎来了可怕的对手。在这之前,人类还抱有一点幻想,某个英雄会应运而生,为人类而战,然而现实很残酷。人工智能最可怕的地方在于,其进步神速,在突破了一个瓶颈后,会引起裂变。
机器之心报道 作者:杜伟 清华大学联合阿里安全、瑞莱智慧 RealAI 等顶尖团队发布首个公平、全面的 AI 对抗攻防基准平台。AI 模型究竟是否安全,攻击和防御能力几何?只需提交至该平台,就可见能力排行。 从发展的角度来看,人工智能正在从第一代的知识驱动和第二代的数据驱动转向第三代的多元驱动,知识、数据、算法和算力成为四大因素。安全可控也成为第三代人工智能的核心发展目标,数据与算法安全成为学界和业界人士重点关注的研究主题之一。其中,在数据安全层面,数据泄露和投毒是造成数据安全风险的两个重要根源;在算法安全
作者 | 郑顺,魏子敏 导读:昨天的清华大学大礼堂迎来了Facebook人工智能研究院院长Yann LeCun,就《深度学习与人工智能的未来》,他为现场百余听众展开了一场两个小时的讲座。 Yann LeCun在清华做了题为【深度学习与人工智能的未来】的演讲 Yann LeCun来清华讲座的消息早在半个月前就传遍了科技圈,一票难求。 AI发烧友们激动了几周,昨天终于朝圣一般一睹大神。 本次演讲为清华经管学院、清华x-lab、Facebook合作开设课程《创新与创业:硅谷洞察》的第一讲,既是课程又是讲座,因此整
人工智能的飞速发展正在将世界带入一个全新的维度,但这同时也将网络世界的正邪对抗推入下一个战场。 美国当地时间8月10日,由 GeekPwn 主办的 CAAD Village 登陆世界顶级极客大会 DEF CON。腾讯安全云鼎实验室在 CAAD Village 上带来前沿议题分享,云鼎实验室安全专家张壮、史博以基于卷积神经网络的多形态恶意软件检测为例,分享了安全厂商应用人工智能之后对抗病毒免杀技术的效果;同时还站在攻击方的视角,介绍了恶意软件使用了生成式对抗网络之后,可绕过应用机器学习检测模型的案例。为人工
4 月 7 日,来自清华的 RealAI(瑞莱智慧)发布了 RealSafe 人工智能安全平台,随之推出的测试结果令人惊讶:通过平台对微软、亚马逊云服务的人脸比对演示平台进行测试显示,基于 RealSafe 平台生成的对抗样本「噪音」能够极大干扰两大主流人脸比对平台的识别结果。
在与我们生活息息相关的零售领域,人工智能技术的到来极大地便利化了人们的零售购物方式。人们不在需要排队等待售货员人工扫码结账,只需要平铺所有商品,基于计算机视觉的智能零售系统便可以迅速扫描计算价格,这引起零售行业降本增效的新浪潮。
人工智能技术具有改变人类命运的巨大潜能,但同样存在巨大的安全风险。攻击者通过构造对抗样本,可以使人工智能系统输出攻击者想要的任意错误结果。从数学原理上来说,对抗攻击利用了人工智能算法模型的固有缺陷。本文以全连接神经网络为例来介绍对抗样本对人工智能模型作用的本质。
据麻省理工《技术评论》网站报道,人工智能和机器学习领域在2016年取得了巨大进步,并有望在2017年取得更为丰硕的成果,包括以下值得期待的五大看点。 1 正向强化 阿尔法围棋(AlphaGo)历史性地击败了顶尖人类围棋高手李世石(Lee Sedol),这不仅是人工智能领域的标志性事件,对“深度强化学习”技术而言更是意义非凡。 动物可以学习特定行为是如何产生积极结果或消极结果的,这种学习方法正是强化学习的灵感来源。例如,借助这种方法,计算机可以通过不断试错,找出在迷宫中导航的方法,然后将积极结果(离开迷宫)与
在刚刚落幕的第20届Blackhat大会上,“机器学习”被反复提及,人工智能在网络安全各个领域得到广泛探索和应用尝试。人工智能在网络安全领域已经从早期的概念炒作,向方案落地转变。 当人工智能遇上网络安全,在纷繁复杂的技术与应用方案背后,可以归纳成执行层、感知层、任务层和战略层四大层面的智能化,不仅帮助解决现有的一些安全难题,未来的发展也非常有想象空间。 网络安全新战场需要AI填补人才紧缺 目前网络安全已经进入了一个崭新的时代,面向各种新战场,需要新的架构、新的方法、新的编程语言来支撑我们应对越来越艰巨的战
人工智能(AI)可能会催生一种全新的时尚潮流:称之为“预测性时尚”。在ArXiv上发表的一篇论文中,来自加州大学圣地亚哥分校的研究人员和Adobe概述了人工智能不仅可以学习一个人的风格,还可以创造出与
逻辑思维是目前人工智能实现效果最好的思维方式,一般我们把此类也称为计算思维,人工智能在计算能力、精准程度、图像识别以及简单重复性劳动等方面已经超越人类水平。
对抗性攻击对于AI来说可能是致命的,最近研究发现,在停车标志上放置一个贴纸实际上可以欺骗AI,使其对标志进行错误分类,这可能会导致自动驾驶汽车不会停下。
【磐创AI导读】:本文主介绍多项世界机器人大会认定的潜力AI最新技术top10,值得一读。想要了解更多AI咨询、学习更多的机器学习知识,欢迎大家点击上方蓝字关注我们的公众号:磐创AI。
图片:iStock 人工智能也被黑客们盯上了,你的网络安全将会受到哪些影响呢?黑客们用AI又能做出哪些坏事呢? 被人工智能攻击容易预期,升级更智能的杀毒软件就是了。 但如果杀毒软件也能被黑客的AI接管,你还能想出什么辙? 拿人工智能技术(AI)来作恶? 没错!为什么不呢? 如果这个人工智能能让黑客找到更为敏感的隐私短信、艳照,岂不可以拿去勒索财务? 如果这个人工智能能让黑客把你联网的机器统统报废,黑客一键下去,岂不让你的机器完全听命于他? 如果黑客无比贪婪,不仅要控制你的手机,联网设备,还要直接摧
机器之心原创 作者:邱陆陆 5 月 25 日晚,刚刚宣布加入 Citadel 的前微软人工智能首席科学家、IEEE Fellow 邓力参加了由中国科大百人会和阿尔法公社联合主办的人工智能产业机会研讨会
无人超市、自动驾驶、机器“诗人”……不知不觉间,这些颇具科技感的事物正褪去神秘色彩,进入现实生活。 忽如一夜春风来。2018年,人工智能厚积薄发,在全球多个领域同时掀起一场“智慧革命”,势不可当。技术突破给社会发展提供新的动能,也引发新的思考。 新机遇:“人工智能+”时代到来 这是人工智能的春天,这时播下的种子更可能产生深远影响。中国人民大学附属中学校长翟小宁说,该校不仅在利用人工智能部署“智慧校园系统”,“00后”学生也表现出了对数据挖掘和建模、计算机视觉等人工智能相关课程的深深喜爱。 “未来的教
为推动和引领人工智能领域创新发展,近日中国人工智能产业发展联盟、厦门人工智能安全研究院组织开展了2021人工智能“创新之星”、“创新人物”评选工作。凭借在人脸安全方面的技术积累和实践经验,“腾讯可信人脸安全”项目从众多参选项目中脱颖而出,获评为2021人工智能“创新之星”。
苹果公司近日终于不再遮遮掩掩,发布了自己的首份人工智能研究报告。业内人士称,这对苹果将来推广自己的人工智能应用大有裨益。苹果本月初曾表示,将发布自己的人工智能研究报告。不到一个月的时间,苹果就兑现了承诺。近日,苹果发布了第一份关于人工智能的学术论文。这篇报告阐述了一项新技术,即如何通过计算机生成图像、而非真实图像来训练一种算法的图像识别能力。 苹果在报告中称,在机器学习研究中,使用合成图像(例如,来自一款视频游戏)来训练神经网络要比使用真实图像更有效。因为合成图像数据已经被标记和注释,而真实的图像数据需要有
【新智元导读】还记得不久前LeCun在Quora答题时说的,他最激动的深度学习进展是“生成对抗网络”吗?生成对抗网络的提出者Ian Goodfellow日前也在Quora做了一期答疑,从他自己的深度学习路,到生成对抗网络的发展,以及他目前所在的OpenAI的运作,作为深度学习新一代技术主力,Goodfellow详尽回答了各种问题。 原文链接:https://www.quora.com/session/Ian-Goodfellow/1 生成对抗网络发展 生成对抗网络是如何发展而来的? Christian Sz
生成式人工智能是人工智能和创造力交叉的一个令人兴奋的领域,它通过使机器能够生成新的原创内容,正在给各个行业带来革命性的变化。从生成逼真的图像和音乐作品到创建逼真的文本和沉浸式虚拟环境,生成式人工智能正在突破机器所能实现的界限。在这篇博客中,我们将探索使用 VAE、GAN 和 Transformer 的生成式人工智能的前景,深入研究其应用、进步及其对未来的深远影响。
京东大数据研发部与中科院、美国西北大学、美国加州大学伯克利分校等相关机构合作,深度参与技术研究,在即将举行的第三十二届美国人工智能顶级国际会议AAAI-2018中,京东大数据研发部共有3篇论文被接收,这也是单个部门首次同时3篇论文入选。AAAI-2018美国人工智能协会(AAAI)是人工智能行业领域顶级协会,该协会主办的年会是人工智能领域最具影响力的学术会议。此次会议的论文接收率为24.6%。京东集团副总裁、大数据研发部负责人翁志表示,京东大数据团队专注于数据挖掘处理能力的提升和机器学习、模式识别、人机交互
AI 科技评论按:本文作者 Antoine Moreau 来自一家数据公司,自去年开始他便每月整理一份 AI 最佳网文榜单,覆盖的文章主题包括深度学习、强化学习、自然语言处理等热门的人工智能细分领域。2019 年 1 月过去不久,他也整理出了一份一月 AI 最佳网文榜单,并发布在 Medium 网站上。雷锋网 AI 科技评论编译如下。
对抗样本是指攻击者故意设计以导致机器学习模型出错的输入样本;他们对机器来说就像是视觉幻觉一样。在本篇博文中,我们将向您展示对抗样本在不同介质中的运作原理,也将讨论为何系统难以防御它们。 在 OpenAI,我们认为对抗样本是研究安全性的一个好方面因为它代表着人工智能安全性上一个能在短期内得以解决的具体问题,由于解决对抗样本是如此之难,需要严肃认真的研究工作。(尽管为了达到我们建立安全、广泛分布的人工智能的目标,我们还需要研究机器学习安全性的许多方面。) 为了弄清楚对抗样本的真实面目,请思索一下《解释并驾驭对
在人工智能强势来袭的今天,无论是Google、Facebook亦或是一些创新企业,都离不开高频的讨论这个话题,然而作为世界科技巨头的领先者之一的苹果一直以来似乎对这个事情并不感冒,只是在安心的做他的手机、平板类的消费品,很少在公开场合讨论关于其在人工智能方面的努力,然而最近苹果却高调了一把。 近日,苹果发布了公司的首份人工智能报告,准确来说,是一份关于人工智能的学术论文,该论文阐述了一项最新的技术——如何通过计算机生成图像、而非真实图像来训练一种算法的图像识别能力,这篇报告的第一作者是苹果研究员Ashish
机器之心原创 作者:高静宜 2017 年 3 月 22 日下午,Facebook 人工智能研究院院长、纽约大学终身教授 Yann LeCun 在清华大学大礼堂为校内师生以及慕名而来的业内人士呈现了一场主题为《深度学习与人工智能的未来(Deep Learning and the Future of AI)》的精彩公开课。 随着 AlphaGo 事件的不断发酵,神经网络成为时下人工智能产学领域万众瞩目的研究焦点,也成为普罗大众的热门话题。事实上,神经网络作为一种算法模型,很早就已经被广泛关注和研究,也曾长时间内
悉尼大学教授、澳大利亚科学院院士、优必选人工智能首席科学家陶大程博士在9月20日的AI WORLD 2018世界人工智能峰会上发表《AI破晓:机遇与挑战》的主题演讲。
本文作者 Nikolai Yakovenko 毕业于哥伦比亚大学,目前是 Google 的工程师,致力于构建人工智能系统,专注于语言处理、文本分类、解析与生成。 生成式对抗网络—简称GANs—将成为深度学习的下一个热点,它将改变我们认知世界的方式。 准确来讲,对抗式训练为指导人工智能完成复杂任务提供了一个全新的思路,某种意义上他们(人工智能)将学习如何成为一个专家。 举个对抗式训练的例子,当你试图通过模仿别人完成某项工作时,如果专家都无法分辨这项工作是你完成的还是你的模仿对象完成的,说明你已经完全掌握了该工
美国国家标准与技术研究院 (NIST) 近日发布了有关对抗性机器学习 (AML) 攻击和缓解措施指南, 呼吁人们再度关注近年来人工智能 (AI) 系统部署增加所带来的隐私和安全挑战,并表示这类系统目前没有万无一失的方法进行保护。
AI科技大本营导读:狗年的春节已过,想必现在很多读者都已经回到了学习或工作的状态,不然就是在回去的路上。节日期间大家忙着走亲串友,可能错过了一些人工智领域的最新消息,今天营长就为大家盘点一番。 ▌2018年麻省理工十大突破性技术公布,AI 大众化、生成对抗网络、谷歌实时翻译耳塞等上榜 一年一度的麻省理工十大突破性技术发布,和人工智能相关的有三项,分别是: AI 大众化(AI for Everybody) 生成对抗网络(Generative Adversarial Network,简称GAN) 巴别鱼
损失函数无疑是机器学习和深度学习效果验证的核心检验功能,用于评估模型预测值与实际值之间的差异。我们学习机器学习和深度学习或多或少都接触到了损失函数,但是我们缺少细致的对损失函数进行分类,或者系统的学习损失函数在不同的算法和任务中的不同的应用。因此有必要对整个损失函数体系有个比较全面的认识,方便以后我们遇到各类功能不同的损失函数有个清楚的认知,而且一般面试以及论文写作基本都会对这方面的知识涉及的非常深入。故本篇文章将结合实际Python代码实现损失函数功能,以及对整个损失函数体系进行深入了解。
---- 作者:简·布斯尔克(Jan Bussieck) 编译: AI100 原文地址: http://www.deeplearningweekly.com/blog/deep-learning-2016-the-year-in-review ---- 为了帮助读者更好地认识把握深度学习领域的发展趋势,这里我将深度学习的发展归纳为三大前沿领域共同驱动的结果。这三大前沿领域从各个方面影响了人工智能(artificial intelligence)的发展,尤其是在深度学习方面。首先是可用的计算能力和相关硬件,
“几乎所有的AI企业都没有赚到钱,而根源问题在于人工智能技术本身的缺陷——数据与算法的不安全性。”
不确定条件中的序列决策由于随机动力学和延迟反馈的影响而具有挑战性。强化学习和模仿学习都可以成为解决这类决策问题的方法。但是,与从延迟反馈中学习的强化学习(RL)相比,模仿学习(IL)从提供即时反馈的专家示例中学习,能够得到良好的策略,这在游戏、机器人控制以及自动驾驶等领域得到了证明。 而针对模仿学习的研究基于各自视角开发出了不同的算法,行为克隆(behavioral cloning, BC)即是其中一种。该算法通过监督学习最小化行动概率差异以达成策略学习。2016 年,斯坦福大学学者 Jonathan Ho
领取专属 10元无门槛券
手把手带您无忧上云