它修复了MacOS X上的编译问题，使用XCode 7.3的命令行工具，它是在Theano 0.8.0之后不久发布的。 Theano 0.8（2016年3月21日） 我们建议大家更新到这个版本。...更好的卷积CPU和GPU。...theano.tensor.repeat在GPU上工作 BatchedDot在GPU和CPU上更快。 更快的batched_tensordot并使其在GPU上工作。...SoftmaxGrad grad 通过CorrMM在GPU上进行3D转换 CPU Max Pool支持padding和strides!...theano.tensor.signal.conv2d(2d,2d)输出2d结果 支持更多卷积参数 图像的双线性插值 加速： 在GPU上更快的SetSubtensor。 在GPU上支持更多缩减模式。
TensorFlow 是一个理想的RNN（递归神经网络） API和实现，TensorFlow使用了向量运算的符号图方法，使得新网络的指定变得相当容易，但TensorFlow并不支持双向RNN和3D卷积，...Torch Torch对卷积网络的支持非常好。在TensorFlow和Theano中时域卷积可以通过conv2d来实现，但这样做有点取巧；Torch通过时域卷积的本地接口使得它的使用非常直观。...TensorFlow仅使用了cuDNN v2，但即使如此它的性能依然要比同样使用cuDNN v2的Torch要慢1.5倍，并且在批大小为128时训练GoogleNet还出现了内存溢出的问题。...此外，Theano的导入也会消耗时间，并且在导入之后无法摆脱预配置的设备（例如GPU0）。 Torch非常好，没有TensorFlow和Theano的问题。...另外，如果想要支持CPU和GPU，用户还必须实现额外的函数，例如Forward_gpu和Backward_gpu；对于自定义的层类型，还必须为其分配一个int类型的id，并将其添加到proto文件中。
在Linux上，C++可以通过命令行来操作接口，对于MATLAB、Python也有专门的接口，运算上支持CPU和GPU直接无缝切换。...Theano具有以下特点： -与NumPy紧密相关--在Theano的编译功能中使用了Numpy.ndarray ； -透明地使用GPU--执行数据密集型计算比CPU快了140多倍（针对Float32）...Keras Keras是极其精简并高度模块化的神经网络库，在TensorFlow 或 Theano 上都能够运行，是一个高度模块化的神经网络库，支持GPU和CPU运算。...当需要如下要求的深度学习的库时，就可以考虑使用Keras： -考虑到简单快速的原型法（通过总体模块性、精简性以及可扩展性）； -同时支持卷积网络和递归网络，以及两者之间的组合； -支持任意连接方案（包括多输入多输出训练...）； -可在CPU 和 GPU 上无缝运行。
3）它实现并且优化了基本的计算单元，使用者可以很简单地在此基础上实现自己的算法，不用浪费精力在计算优化上面。核心的计算单元使用C或者cuda做了很好的优化。在此基础之上，使用lua构建了常见的模型。...5）支持全面的卷积操作： - 时间卷积：输入长度可变，而TF和Theano都不支持，对NLP非常有用。 - 3D卷积：Theano支持，TF不支持，对视频识别很有用。...Theano是学术研究的一个很好的工具，在一个CPU上比TensorFlow更有效地运行。然而，在开发和支持大型分布式应用程序时，可能会遇到挑战。 ?...构建块（操作）的细粒度允许用户创造新的复合层类型，而不用低级语言实现（如Caffe）。 像Caffe一样，CNTK也是基于C++的、具有跨平台的CPU/GPU支持。...CNTK在Azure GPU Lab提供了最高效的分布式计算性能。目前，CNTK对ARM架构的缺乏支持，限制了其在移动设备上的功能。 除了上述列出的深度学习框架之外，还有一些框架在下面的列表中。 ?
配置Theano 现在，在我们导入Lasagne库和Nolearn库之前，首先我们需要配置Theano，使其可以使用GPU硬件。...在训练分类网络时，标准化你的输入值在[-1,1]之间是个很常见的做法。 ? 使用nolearn的API，我们可以很容易地创建一个输入层，隐藏层和输出层的多层感知器。...正如预期的那样，使用GPU训练好的神经网络和使用CPU训练好的神经网络产生了类似的结果。两者产生了相似的测试精度（约为41%）以及相似的训练损失。 通过下面代码，我们可以在测试数据上测试网络： ?...在只有Domino的XX-大型硬件层的CPU上，每个训练周期大概需要177秒完成，接近于3分钟。也就是说，用GPU训练，训练时间提升了大约15倍。 ?...和前面一样，我们可以看到在CUP上训练的卷积神经网络与GPU上训练的卷积神经网络有着类似的结果，相似的验证精度与训练损失。 此外，当我们在测试数据上测试卷积神经网络时，我们得到了61%的精度。 ?
【编者按】GPU因其浮点计算和矩阵运算能力有助于加速深度学习是业界的共识，Theano是主流的深度学习Python库之一，亦支持GPU，然而Theano入门较难，Domino的这篇博文介绍了如何使用GPU...在训练分类网络时，标准化你的输入值在[-1,1]之间是个很常见的做法。...正如预期的那样，使用GPU训练好的神经网络和使用CPU训练好的神经网络产生了类似的结果。两者产生了相似的测试精度（约为41%）以及相似的训练损失。...在只有Domino的XX-大型硬件层的CPU上，每个训练周期大概需要177秒完成，接近于3分钟。也就是说，用GPU训练，训练时间提升了大约15倍。 ?...和前面一样，我们可以看到在CUP上训练的卷积神经网络与GPU上训练的卷积神经网络有着类似的结果，相似的验证精度与训练损失。 此外，当我们在测试数据上测试卷积神经网络时，我们得到了61%的精度。
在CPU上的矩阵运算库使用了Eigen而不是BLAS库，能够基于ARM架构编程和优化，因此在移动设备上表现得很好。 目前在单GPU条件下，绝大多数深度学习框架都依赖于cuDNN。...MXNet的很多作者都是中国人，其最大的贡献组织为百度。它是各个框架中率先支持多GPU和分布式的，同时其分布式性能也非常高。...特征描述如下： Powerful：支持CUDA计算，只需要几行代码就可以使用GPU加速，同时只需少改动就可以运行在多GPU上 Flexible：支持多种前馈神经网络，包括卷积网络、循环网络、递归网络，支持运行中动态定义的网络...可移植性非常好，可以运行在CPU、GPU和FPGA等设备上，可以支持任何操作系统的PC、服务器，甚至是没有操作系统的嵌入式设备，并且同时支持OpenCL和CUDA。...，在训练非常稀疏的数据时具有很大的优势。
，然后在使用如SVM、Logistic回归等不同的模型之前使用它来进行特征提取。...ConvNet网络体系结构（来自CS231n网站） 如你所见，ConvNets工作时伴随着3D卷积并且在不断转变着这些3D卷积。...Lasagne是基于Theano的，所以GPU的加速将大有不同，并且其对神经网络创建的声明方法也很有帮助。...大多数人使用的是预训练ConvNet模型，然后删除最后一个输出层，接着从ImageNets数据集上训练的ConvNets网络提取特征。...一个MNIST数据集的数字实例（该实例是5） ConvNet体系结构与训练 现在，定义我们的ConvNet体系结构，然后使用单GPU/CPU来训练它（我有一个非常廉价的GPU，但它很有用） [py] view
在完成配置深度学习框架后，本文分别利用这三个框架作为 Keras 后端在 CPU 和 GPU 上训练了一个标准的卷积神经网络，完成该简单的卷积网络也就意味着我们完成了深度学习环境的配置。...然而在实践过程中，这些计算通常都是在 CPU 上平行执行的，而 GPU 正忙于学习深度神经网络的权重，况且增强数据是用完即弃的。...的安装 因为 Theano 是安装 Keras 时自动安装的，为了快速地在 CPU 模式、GPU 模式和带 cuDNN 的 GPU 模式之间转换，我们需要创建以下三个系统环境变量（sysenv variable...使用 Keras 验证 GPU+cuDNN 的安装 我们可以使用 Keras 在 MNIST 数据集上训练简单的卷积神经网络（convnet）而验证 GPU 的 cuDNN 是否正确安装，该文件名为 mnist_cnn.py...使用带 Theano 后端的 Keras 为了有一个能进行对比的基线模型，首先我们使用 Theano 后端和 CPU 训练简单的卷积神经网络： (dlwin36) $ set KERAS_BACKEND
其实，它可以被更好地理解为一个数学表达式的编译器：用符号式语言定义你想要的结果，该框架会对你的程序进行编译，来高效运行于 GPU 或 CPU。...而且，由于出身学界，它最初是为学术研究而设计，这导致深度学习领域的许多学者至今仍在使用 Theano。但随着 Tensorflow 在谷歌的支持下强势崛起，Theano 日渐式微，使用的人越来越少。...它是一个被广泛使用的机器视觉库，把 Matlab 执行快速卷积网络的方式带到 C 和 C++。...这方面它代表了业内一流水平，是开发者的首选。 说到 Caffe，就不得不提 Model Zoo。后者是在 Caffe 基础上开发出的一系列模型的汇聚之地。...:数据结构和分析 它命名的由来：SciPy 的扩展和模块在传统上被命名为 SciKits。
TensorFlow灵活的架构可以部署在一个或多个CPU、GPU的台式以及服务器中，或者使用单一的API应用在移动设备中。...可适性强: 可以应用在不同设备上，cpus，gpu，移动设备，云平台等 自动差分: TensorFlow的自动差分能力对很多基于Graph的机器学习算法有益 多种编程语言可选: TensorFlow很容易使用...并使之成为一个使用numpy、高效本地库的高效代码，如BLAS和本地代码（C++）在CPU或GPU上尽可能快地运行。...Theano的优势： 集成NumPy-使用numpy.ndarray 使用GPU加速计算-比CPU快140倍（只针对32位float类型） 有效的符号微分-计算一元或多元函数的导数 速度和稳定性优化-比如能计算很小的...Chainer 的设计基于 define by run原则，也就是说该网络在运行中动态定义，而不是在启动时定义。
从2016年开源起，微软就宣传CNTK的性能明显高于Caffe、Theano、TensoFlow等其它的一些热门工具，当然也提供了基于英伟达cuDNN的一到多GPU加速支持。...对于某些模型，训练速度可以提升5倍以上； 提升验证性能，移除了许多不需要的验证检查； CPU 卷积中更多地使用MKL-ML，AlexNet的训练速度可以提升4倍； Linux的正式版CNTK-GPU会默认使用...对于在单个GPU上运行的带有高维稀疏输入（大约2百万特征）的前馈模型，性能可以提升5倍。...ONNX方面，优化标准支持的同时，ONNX标准也更新到了最新版本；目前已经覆盖了ResNet、Inception、VGG在内的多数计算机视觉模型 增加了GPU上分组卷积的支持 CNTK2.3版本此次发布了运行在...Windows下的CPU、GPU、GPU+1bit-SGD、UWP等多个版本以及运行在Linux下的CPU、GPU、GPU+1bit-SGD三个版本，都支持64位系统。
几个深度学习框架的比较如下： Theano、Torch是两个最具有扩展性的深度学习框架，无论在支持的各种网络层种类数量上，或者是在支持的各种库上。...，Torch的性能都最优，其次是Theano，Neon的在CPU上的性能最差在GPU上deploy已经训练好的卷积和全连接网络（也就是 前向传播过程），Torch也是最适合的，其次是Theano在GPU...上training卷积和全连接网络，Theano在小网络模型（LeNet）的表现最好，在大网络模型（AlexNet）上，Torch性能最佳。...TensorFlow是非常具有扩展性的一个深度学习框架，尤其是在不同情况的各种设备上，进行深度学习框架部署时，更方便稳定。但是在单机上，它的表现就不具有那么强的竞争力了。...TensorFlow灵活的架构可以部署在一个或多个CPU、GPU的台式以及服务器中，或者使用单一的API应用在移动设备中。
通过开放获取机器学习代码的TensorFlow库，Google正在帮助简化复杂深层神经网络的构建、训练和部署。谷歌、英特尔、优步和高通都是使用Tensorflow的公司。 2.Caffe ?...Caffe支持面向图像分类和图像分割的多种不同类型的深度学习体系结构。据其网站称，它可以使用一个NVIDIA K40 GPU在一天内处理6000多万张图像。...无论是在只有CPU，单个GPU，多个GPU或具有多个GPU的多个机器上运行，它都拥有出色的性能。它允许你选择自己的参数、算法和网络。它是用Python和c++编写的。...4.Theano ? Theano是一个专为深度学习而设计的Python库。它允许你定义、优化和评估涉及高效率的多维数组的数学表达式。它可以使用GPU并执行有效的符号区分。...这种高水平的神经网络API旨在使用深度神经网络进行快速实验。它侧重于用户友好、 模块化和可扩展性。该工具针对CPU和GPU进行了优化。
，它拥有类似于 Theano 和 TensorFlow 的数据流图，为多 GPU 提供了良好的配置。...主要特性： CNTK性能优于其他的开源框架； 适合做语音任务，CNTK本就是微软语音团队开源的，自然更适合做语音任务，便于在使用RNN等模型以及时空尺度时进行卷积； 学习资料与教程： 入门介绍：https...MegEngine 特性： 训练推理一体化：MegEngine 支持多种硬件平台（ CPU，GPU，ARM ），不同硬件上的推理框架和 MegEngine 的训练框架无缝衔接；部署时无需做额外的模型转换...支持安卓和ios平台，CPU和GPU使用，提供量化工具。可以直接使用Paddle Fluid训练好的模型，也可以将Caffe模型进行转化，或者使用ONNX格式的模型。...硬件支持范围：支持高通，联发科，以及松果等系列芯片的CPU，GPU与DSP(目前仅支持Hexagon)计算加速。CPU模式支持Android, iOS, Linux等系统。
随着近年来科技的发展，人工智能的利用率也是越来越高，我们需要随时了解人工智能的哪些工具、库、平台，以及提供的功能，哪些更加适合你。...2.Caffe（卷积神经网络框架） Caffe目前已经成为深度学习的一个开源框架了，它支持各种类型的软件架构设计会议及图像分割和图像分类。...3.CNTK(计算网络工具包) CNTK是一款深度学习的工具包，由微软开发，它可以帮助用户把不同类型的神经网络轻松地结合到一起，而且允许分布式训练，灵活度非常高。但它的源代码缺乏可视化。...AI开发者可以使用TensorFlow库在模式识别方面构建和训练神经网络，但缺点是像Caffe一样，也不支持外部数据集。 11.Theano 如果你用深度学习处理，那就要处理很多数值的任务。...Theano非常适合处理这些任务，例如矩阵运算、符号变量等，可以即时编译为CPU或GPU的机器代码。Theano是时间最久的深度学习库之一。
虽然我很喜欢Caffe的性能（它每天可以在K40 GPU上处理60万张图片），但相比之下我更喜欢Keras和mxnet。 主要的原因是，在.prototxt文件内部构建架构可能会变得相当乏味和无聊。...Mxnet库真正出色的是分布式计算，它支持在多个CPU / GPU机训练你的网络，甚至可以在AWS、Azure以及YARN集群。...7.sklearn-theano 有时候你并不需要终端到终端的培养一个卷积神经网络。相反，你需要把CNN看作一个特征提取器。当你没有足够的数据来从头培养一个完整的CNN时它就会变得特别有用。...当需要评估一个特定的问题是否适合使用深度学习来解决时，我倾向于使用这个库作为我的第一手判断。...8.nolearn 我在PyImageSearch博客上用过几次nolearn，主要是在我的MacBook Pro上进行一些初步的GPU实验和在Amazon EC2 GPU实例中进行深度学习。
支持命令行、Python和Matlab接口，使用方便。 CPU和GPU之间切换方便，多GPU训练方便。 工具丰富，社区活跃。 同时，Caffe的缺点也比较明显，主要包括如下几点。...等框架，但自发布之日起，其受到的关注度就在不断上升，目前在GitHub上的热度已经超过Theano、Caffe、MXNet等框架。...得益于对GU的透明使用，Theano尤其适用于包含高维度数组的数学表达式，并且计算效率比较高。...适合做语音任务，CNTK本就是微软语音团队开源的，自然更适合做语音任务，便于在使用RNN等模型以及时空尺度时进行卷积。 微软开发的CNTK-R包提供了R与CNTK的API接口。...事实上，它是唯一支持所有R函数的构架。 本地分布式训练：支持在多CPU/GPU设备上的分布式训练，使其可充分利用云计算的规模优势。
领取专属 10元无门槛券
手把手带您无忧上云
云服务器
ICP备案
对象存储
腾讯会议
云直播
