CNN简介 文末附三份深度学习视频资源 后台回复关键词（20180310） 目录： 一些视频资源和文章 CNN简介 图像即四维张量？ 卷积的定义 CNN如何工作 最大池化与降采样 交流层 一些资源 卷积网络对图像进行物体辨识，可识别人脸、人类个体、道路标志、茄子、鸭嘴兽以及视觉数据中诸多其他方面的内容。卷积网络与运用光学字符辨识进行的文本分析有重合之处，但也可用于对离散文本单元以及声音形式的文本进行分析。 卷积网络（ConvNets）在图像辨识上的效能，是如今全球对深度学习产生兴趣的重要原因。卷积网络正推动
Kaggle近期举办了一场 关于CIFAR-10数据集的竞赛，该数据集包含有6万个32*32的彩色图像，共分为10种类型，由 Alex Krizhevsky, Vinod Nair和 Geoffrey
雷锋网注：卷积神经网络（Convolutional Neural Network）是一种前馈神经网络，它的人工神经元可以响应一部分覆盖范围内的周围单元，对于大型图像处理有出色表现。 Yann LeCu
随着深度学习的快速发展，传统的卷积神经网络（Convolutional Neural Networks, CNNs）在计算机视觉领域取得了巨大的成功。然而，对于一些涉及到时序和空间信息的任务，如视频分析、动作识别和人体姿态估计等，传统的CNNs存在一定的局限性。为了有效地处理这些时空信息，研究人员提出了一种新型的卷积神经网络模型，即时空卷积网络（Spatio-Temporal Convolutional Networks）。
首先，卷积网络认知图像的方式不同于人类。因此，在图像被卷积网络采集、处理时，需要以不同方式思考其含义。 卷积网络将图像视为体，也即三维物体，而非仅用宽度和高度测量的平面。这是因为，彩色数字图像具有红－绿－蓝（RGB）编码；通过将这三色混合，生成人类肉眼可见的色谱。卷积网络将这些图像作为彼此独立、逐层堆叠的三层色彩进行收集。 故而，卷积网络以矩形接收正常色彩的图像。这一矩形的宽度和高度由其像素点进行衡量，深度则包含三层，每层代表RGB中的一个字母。这些深度层被称为通道。 我们以输入量和输出量来描述经过卷积网络
卷积网络（convolutional network），也叫做卷积神经网络（convolutional neural network,CNN），是一种专门用来处理具有类似网格结构的数据的神经网络。例如时间序列数据（可以认为是在时间轴桑有规律地采样形成的一维网格）和图像数据（可以看做二维的像素网格）。
作为 Facebook 人工智能部门主管， Yann LeCun 是 AI 领域成绩斐然的大牛，也是行业内最有影响力的专家之一。 近日，LeCun在卡内基梅隆大学机器人研究所进行了一场 AI 技术核心问题与发展前景的演讲。他在演讲中提到三点干货： 1. 无监督学习代表了 AI 技术的未来。 2. 当前 AI 应用的热点集中在卷积神经网络。 3. 用模拟器提高无监督学习的效率是大势所趋。 演讲完整视频如下。该视频长 75 分钟，并包含大量专业术语，因此雷锋网节选关键内容做了视频摘要，以供读者浏览。 以下
卷积网络convolutional network,也叫做卷积神经网络convolutional neural network CNN 专门用来处理类似网格结构数据的神经网络. 比如
马毅老师曾说过:”如果你没有看过近30年的经典论文,你是做不出成果的”.现如今深度学习如此火热,一些关键节点发布的文章更应该好好的阅读,因此我想在未来的一段时间内去阅读一些经典的论文,去推敲和分析,并且争取可以使用TensorFlow去复现他.而这篇文章我们将会阅读VGG这篇经典文章,希望和大家交流,如果有理解不到位的地方,也请大家多多指正。
机器之心原创 作者：蒋思源 本文讨论并实现了用于序列模型的基本深度方法，其中循环网络主要介绍了传统的 LSTM 与 GRU，而卷积网络主要介绍了最近 CMU 研究者提出的时间卷积网络与实证研究。相比于我们熟知的经典循环网络方法，用 CNN 实现序列建模可能会更有意思，因此本文的实现部分重点介绍了时间卷积网络的实现。 这是机器之心 GitHub 实现项目的第四期，前面几期分别介绍了卷积神经网络、生成对抗网络与带动态路由的 CapsNet。 机器之心项目地址：https://github.com/jiqizhi
VGG卷积神经网络是牛津大学在2014年提出来的模型。当这个模型被提出时，由于它的简洁性和实用性，马上成为了当时最流行的卷积神经网络模型。它在图像分类和目标检测任务中都表现出非常好的结果。在2014年的ILSVRC比赛中，VGG 在Top-5中取得了92.3%的正确率。同年的冠军是googlenet。
VGG卷积网络相对于LeNet5卷积网络来说卷积核尺寸：LeNet卷积核大小均为5*5，而VGG是只用了3*3的卷积核，步长为1。下采样：LeNet中是2*2的均值池化，再乘以一个可学习的参数， VGG为2*2，步长为2。padding: LeNet 模型中没有使用补边，但是输入的图片（32*32）是比数字所占像素（28*28）更大的。VGG都使用了padding（1或2）。激活函数：LeNet使用Sigmoid，VGG也是使用ReLU。
选自Github 机器之心编译 编辑：吴攀 上个月，微软代季峰等研究者发布的一篇论文提出了一种可变形卷积网络，该研究「引入了两种新的模块来提高卷积神经网络（CNN）对变换的建模能力，即可变形卷积（deformable convolution）和可变形兴趣区域池化（deformable ROI pooling）」，详情参阅机器之心专栏文章《专栏 | MSRA 视觉组最新研究：可变形卷积网络》。近日，该研究团队如其承诺的那样在 GitHub 上公布了相关代码。机器之心对该项目的 README.md 内容进行了编
从1989年LeCun提出第一个真正意义上的卷积神经网络到今天为止，它已经走过了29个年头。自2012年AlexNet网络出现之后，最近6年以来，卷积神经网络得到了急速发展，在很多问题上取得了当前最好的结果，是各种深度学习技术中用途最广泛的一种。在本文中SIGAI将为大家回顾和总结卷积神经网络的整个发展过程。
选自arXiv 作者：Sijie Yan、Yuanjun Xiong、Dahua Lin 机器之心编译 参与：陈韵竹 近日，中国香港中文大学提出一种时空图卷积网络，并利用它们进行人类行为识别。这种算法基于人类关节位置的时间序列表示而对动态骨骼建模，并将图卷积扩展为时空图卷积网络而捕捉这种时空的变化关系。 近年来，人类行为识别已经成为一个活跃的研究领域，它在视频理解中起着重要的作用。一般而言，人类行为识别有着多种模态（Simonyan and Zisserman 2014; Tran e
时隔半年，终于等来了 Yann LeCun 回忆杀视频。 去年 8 月时，随着 deeplearning.ai 深度学习教学网站和系列课程的发布，吴恩达也在「the Heros of Deep Learning」系列视频中采访了 7 位深度学习界重要人物，其中包括「深度学习教父」Geoffery Hinton、「GANs 之父」Ian Goodfellow、「深度学习三驾马车」中另一位 Yoshua Bengio 、UC 伯克利教授 Pieter Abbeel 、百度研究院院长林元庆 、「深度学习网红」An
选自arXiv 机器之心编译 参与：蒋思源 在不同层面上使用不同编码方式和语言模型在文本分类任务中到底效果怎样？Yann LeCun 和 Xiang Zhang 在四种语言、14 个数据集上测试了 4
前几节我们详细研究了GRU和LSTM网络层，这两者特点是能够抓取输入数据在时间上的逻辑联系，因此这两种网络特别容易从文本中抓取规律，因为文本是有一个个单词依据前后次序连接起来的整体，单词与单词之间的连接可以看做是时间上前后相连的组合，因此使用GRU和LSTM构成的网络来进行文本的情绪分析时，正确率能高达90%。
我们现在有一个非常好的直觉，卷积是什么，以及卷积网中发生了什么，为什么卷积网络是如此强大。 但我们可以深入了解卷积运算中真正发生的事情。我们将看到计算卷积的原始解释是相当麻烦的，我们可以开发更复杂的解释，这将帮助我们更广泛地思考卷积，以便我们可以将它们应用于许多不同的数据。要实现这种更深入的理解，第一步是理解卷积定理。
关于全连接神经网络（Full Connected Neural Network，FC）的讨论已经说的不少了，本篇将要介绍的是，从2006年至今的神经网络第三次浪潮中，取得巨大成功、处于最核心位置的技术
马毅老师曾说过:”如果你没有看过近30年的经典论文,你是做不出成果的”.现如今深度学习如此火热,一些关键节点发布的文章更应该好好的阅读,因此我想在未来的一段时间内去阅读一些经典的论文,去推敲和分析,并且争取可以使用TensorFlow去复现他.而这篇文章我们将会阅读VGG这篇经典文章,希望和大家交流,如果有理解不到位的地方,也请大家多多指正.
卷积可能是目前深度学习中最重要的概念了。卷积和卷积网络是引发深度学习去完成几乎任何机器学习任务的最前沿地概念。但是什么使卷积这么强大？它是如何工作的？在这篇博客中，我将解释卷积，帮助你彻底了解卷积。这篇博客文章也会有很多数学细节，但我会从概念的角度来解释，这里面的基础数学每个人都应该能够理解。本博文的第一部分针对任何想要了解深度学习里卷积和卷积网络的一般概念的人。本博文的第二部分是高级概念，旨在进一步增强对深度学习研究人员和专家的卷积的理解。
图结构数据在各个领域都很常见，例如{分子、社会、引用、道路}网络等，这些只是可以用图表示的大量数据中的一小部分。随着机器学习的进步，我们见证了在可用数据上应用智能算法的潜力。图神经网络是机器学习的一个分支，它以最有效的方式建立图数据的神经网络。
AI 科技评论按：第 32 届 AAAI 大会（AAAI 2018）日前在美国新奥尔良进行，于当地时间 2 月 2 日至 7 日为人工智能研究者们带来一场精彩的学术盛宴。AAAI 2018 今年共收到论文投稿 3808 篇，接收论文 938 篇，接收率约为 24.6 %。
近日，山东大学集成电路学院刘国洋助理研究员、周卫东教授团队提出了一种新型余弦卷积网络（CosCNN），并设计了相应的高效参数量化算法使其易于在FPGA中部署。研究结果表明所提出的余弦卷积网络能显著提高癫痫脑电检测的性能，且有望用于其它时间序列分析相关的深度学习模型中。相关成果以“Cosine Convolutional Neural Network and Its Application for Seizure Detection”为题发表在中科院一区Top期刊《Neural Networks》。山东大学集成电路学院为论文署名单位，刘国洋助理研究员为论文第一作者，周卫东教授为通讯作者。
导读：卷积神经网络（CNN）在计算机视觉领域已经取得了前所未有的巨大成功，但我们目前对其效果显著的原因还没有全面的理解。近日，约克大学电气工程与计算机科学系的 Isma Hadji 和 Richard
过去几年来，计算机视觉研究主要集中在卷积神经网络（常简称为 ConvNet 或 CNN）上。这些工作已经在广泛的分类和回归任务上实现了新的当前最佳表现。相对而言，尽管这些方法的历史可以追溯到多年前，但对这些系统得到出色结果的方式的理论理解还很滞后。事实上，当前计算机视觉领域的很多成果都是将 CNN 当作黑箱使用，这种做法是有效的，但其有效的原因却非常模糊不清，这严重满足不了科学研究的要求。尤其是这两个可以互补的问题：（1）在被学习的方面（比如卷积核），究竟被学习的是什么？（2）在架构设计方面（比如层的数量、核的数量、池化策略、非线性的选择），为什么某些选择优于另一些选择？这些问题的答案不仅有利于提升我们对 CNN 的科学理解，而且还能提升它们的实用性。
来源: SigAI 作者: AI学习与实践平台 导言 在机器视觉和其他很多问题上，卷积神经网络取得了当前最好的效果，它的成功促使我们思考一个问题，卷积神经网络为什么会这么有效？在本文中，SIGAI将为大家分析卷积神经网络背后的奥秘。 思想起源 在各种深度神经网络结构中，卷积神经网络是应用最广泛的一种，它由LeCun在1989年提出[1]。卷积神经网络在早期被成功应用于手写字符图像识别[1][2][3]。2012年更深层次的AlexNet网络[4]取得成功，此后卷积神经网络蓬勃发展，被广泛用于各个领域，在很多
选自arXiv 机器之心编译 参与：Panda 卷积神经网络（CNN）在计算机视觉领域已经取得了前所未有的巨大成功，但我们目前对其效果显著的原因还没有全面的理解。近日，约克大学电气工程与计算机科学系的
卷积神经网络（CNN）在计算机视觉领域已经取得了前所未有的巨大成功，但我们目前对其效果显著的原因还没有全面的理解。2018年3月，约克大学电气工程与计算机科学系的 Isma Hadji 和 Richa
在深度学习的知识宝库中，除了前面文章中介绍的RNN，还有一个重要的分支：卷积神经网络（CNN），其广泛应用于视觉，视频等二维或者多维的图像领域。卷积网络具有深度，可并行等多种特性，这种技术是否可以应用于解单维度的时间序列问题呢？本文介绍一种最近提出的新技术：时间卷积神经网络 (Temporal Convolutional Network，TCN)，由Lea等人于2016年首次提出，起初应用于视频里动作的分割，后逐渐拓展到了一般性时序领域。
论文名称：ACEnet: Anatomical Context-Encoding Network for Neuroanatomy Segmentation
百度视觉技术部联合PaddlePaddle团队近期开源了用于视频分类的StNet框架。StNet框架为ActivityNetKinetics Challenge 2018中夺冠的网络框架。本次开源了基于ResNet50实现的StNet模型。该模型提出“super-image"的概念，在super-image上进行2D卷积，建模视频中局部时空相关性。另外通过temporal modeling block建模视频的全局时空依赖，最后用一个temporalXception block对抽取的特征序列进行长时序建模。该框架在动作识别方面优于一些最先进的方法，可以在识别精度和模型复杂性之间取得令人满意的平衡。
机器之心编译 参与：Panda 卷积神经网络（CNN）在计算机视觉领域已经取得了前所未有的巨大成功，但我们目前对其效果显著的原因还没有全面的理解。近日，约克大学电气工程与计算机科学系的 Isma Ha
📷 卷积神经网络（CNN）在计算机视觉领域已经取得了前所未有的巨大成功，但我们目前对其效果显著的原因还没有全面的理解。2018年3月，约克大学电气工程与计算机科学系的 Isma Hadji 和 Ric
今天将分享Unet的改进模型SDU-Net，改进模型来自2020年的论文《UNet Using Stacked Dilated Convolutions for Medical Image Segmentation》，简单明了给大家分析理解该模型思想。
本公众号曾经推出过PyTorch实现的LSTM时间序列预测，并开源了其源码。细心的童鞋可能发现了，我之前使用的LSTM是生成式模型，而不是使用判别式进行预测。换言之，就是将序列本身作为输入，下一时刻作
VGGNet于2014年提出，在文献VERY DEEP CONVOLUTIONAL NETWORKS FOR LARGE-SCALE IMAGE RECOGNITION 中有详细介绍。
在机器视觉和其他很多问题上，卷积神经网络取得了当前最好的效果，它的成功促使我们思考一个问题，卷积神经网络为什么会这么有效？在本文中，SIGAI将为大家分析卷积神经网络背后的奥秘。
尽管卷积神经网络(CNNs)通常与图像分类任务相关，但经过适当的修改，它已被证明是进行序列建模和预测的有价值的工具。在本文中，我们将详细探讨时域卷积网络(TCN)所包含的基本构建块，以及它们如何结合在一起创建一个强大的预测模型。使用我们的开源Darts TCN实现，我们展示了只用几行代码就可以在真实数据集上实现准确预测。
为了有效地利用这一更强的形变建模能力，研究员们提出了一种利用更精细的驱动力量来引导网络学习的方法，具体来说，考虑到 R-CNN 框架在进行候选框特征提取时能排除无关背景的干扰，在网络训练过程中通过额外引入要求网络特征模仿 R-CNN 特征的损失函数，使得所学习到的形变更专注在前景物体上。通过引入以上更强的建模能力和更优的训练策略，新一代可变形卷积网络在多个主流的识别任务上取得了相比于第一代可变形卷积网络好得多的性能。
这篇文章回顾了基于TCN的解决方案的最新创新。我们首先介绍了一个运动检测的案例研究，并简要回顾了TCN架构及其相对于传统方法的优势，如卷积神经网络(CNN)和递归神经网络(RNN)。然后，我们介绍了一些使用TCN的应用，包括改进交通预测，声音事件定位和检测，以及概率预测。
在中篇中，我们了解了图机器学习（GML：Graph Machine Learning）。下面，终于到了这个前置教程的重头戏，图神经网络（Graph Neural Networks）。 我们通过结合论文A Comprehensive Survey on Graph Neural Networks来学习现在图神经网络的发展现状。
UAI与PaddlePaddle联合推出的【AI核心技术掌握】系列课程持续更新中！
AI科技评论按：前几天，Yann LeCun与其学生 张翔在arXiv上发表了一篇新作「Which Encoding is the Best for Text Classification in Ch
腾讯 AI Lab 和清华大学的这项研究表明，图神经网络无法做深由两个原因造成：过拟合 (Overfitting) 和过平滑（Oversmoothing）。为了解决这两个问题，文章提出了一种简洁但非常有效的方法：随机删边技术，DropEdge，极大提升了超深图卷积网络的训练效率和节点分类效果。值得注意的是，文章投稿到 openreview 的时候就引来了众多研究同行的关注。文章正式被接收后，图灵奖获得者 Yoshua Bengio 的团队成员 Petar Veličković（注意力图网络 GAT 的发明者）在 openreview 平台上也给与了关注与好评。
领取专属 10元无门槛券
手把手带您无忧上云
云服务器
ICP备案
对象存储
即时通信 IM
实时音视频
