Keras Applications are canned architectures with pre-trained weights.
MobileNetV3是Google继MobileNet V1和MobileNet V2后的新作，主要使用了网络搜索算法(用NAS通过优化每个网络块来搜索全局网络结构，用NetAdapt算法搜索每个层的滤波器数量)，同时在MobileNet V2网络结构基础上进行改进，并引入了SE模块（我们已经讲过了SENet，【cv中的Attention机制】最简单最易实现的SE模块）和提出了H-Swish激活函数。论文原文见附录。
选自Medium 作者：Joyce Xu 机器之心编译 参与：Pandas 神经网络领域近年来出现了很多激动人心的进步，斯坦福大学的 Joyce Xu 近日在 Medium 上谈了她认为「真正重新定义了我们看待神经网络的方式」的三大架构： ResNet、Inception 和 Xception。机器之心对本文进行了编译介绍，更多架构可参阅机器之心文章《10 大深度学习架构：计算机视觉优秀从业者必备（附代码实现）》。 过去几年来，计算机视觉领域中深度学习的诸多进展都可以归结到几种神经网络架构。除开其中的所有数
前面的轻量级网络架构中，介绍了mobilenet v1和mobilenet v2，前不久，google又在其基础之上推出新的网络架构，mobilenet v3.
因为神经网络本质上执行大量计算，所以它们在移动设备上尽可能高效地运行是很重要的。一个高效的模型能够在实时视频上获得实时结果 - 无需耗尽电池或使手机变热，就可以在其上煎鸡蛋。
图 1：在 Kaggle Notebook 中可以免费使用 CPU、GPU 和 TPU。
Fast Segmentation Convolutional Neural Network (Fast- scnn)是一种针对高分辨率图像数据的实时语义分割模型，适用于低内存嵌入式设备上的高效计算。原论文的作者是：Rudra PK Poudel, Stephan Liwicki and Roberto Cipolla。本文中使用的代码并不是作者的正式实现，而是我对论文中描述的模型的重构的尝试。
以下是我最近在伦敦 O’Reilly AI Conference 和 DroidCon 上的两次谈话的改编。
AI 科技评论按：本文为浙江大学范星为 AI 科技评论撰写的独家稿件，未经许可不得转载。 从 1998 年经典的 LeNet，到 2012 年历史性的 AlexNet，之后深度学习进入了蓬勃发展阶段，百花齐放，大放异彩，出现了各式各样的不同网络，包括 LeNet、AlexNet、ZFNet、VGG、NiN、Inception v1 到 v4、Inception-ResNet、ResNet、WRN、FractalNet、Stochastic Depth、DenseNet、ResNeXt、Xception、SE
原标题：How to Train Your Model (Dramatically Faster)
使用过 OpenMMLab 旗下开源软件，如 mmdet、mmseg 的读者们，一定知道在这些软件中，我们通过配置文件来定义深度学习任务的方方面面，比如模型结构、训练所使用的优化器、数据集等。
我现在在Unbox Research工作，由 Tyler Neylon创办的新的机器学习研究单位，岗位是机器学习工程师。我刚刚为一名客户完成了一个服装图片分类的iOS 应用程序开发的项目——在类似这样的项目里，迁移学习是一种非常有用的工具
zhuanlan.zhihu.com/c_1113861154916601856
选自Google Blog 作者：Mark Sandler、Andrew Howard 机器之心编译 参与：黄小天、思源 深度学习在手机等移动端设备上的应用是机器学习未来的重要发展方向。2017 年 4 月，谷歌发布了 MobileNet——一个面向有限计算资源环境的轻量级神经网络。近日，谷歌将这一技术的第二代产品开源，开发者称，新一代 MobileNet 的模型更小，速度更快，同时还可以实现更高的准确度。 项目链接：https://github.com/tensorflow/models/tree/mas
项目链接：https://github.com/tensorflow/models/tree/master/research/slim/nets/mobilenet
LeNet：1998，Gradient based learning applied to document recognition
目标是想把在服务器上用pytorch训练好的模型转换为可以在移动端运行的tflite模型。
卷积神经网络的结构优化和深度加深，带来非常显著的图像识别效果提升，但同时也带来了高计算复杂度和更长的计算时间，实际工程应用中对效率的考虑也很多，研究界与工业界近年都在努力「保持效果的情况下压缩网络复杂度」，也诞生了很多轻量化网络。在本篇内容中，ShowMeAI对常见主流轻量级网络进行展开讲解。
选自GitHub 机器之心编译 作者：Matthijs Hollemans 参与：李泽南 6 月 5 日开幕的 WWDC 2017 开发者大会上，苹果正式推出了一系列新的面向开发者的机器学习 API，包括面部识别的视觉 API、自然语言处理 API，这些 API 的背后都有 Core ML 机器学习框架的身影。苹果软件主管兼高级副总裁 Craig Federighi 在大会上介绍说，Core ML 致力于加速在 iPhone、iPad、Apple Watch 等移动设备上的人工智能任务，支持深度神经网络、
从 MobileNet V1 到 MobileNet V2 ResNet、Inception、Xception 追求的目标，就是在达到更高的准确率的前提下，尽量在模型大小、模型运算速度、模型训练速度这几个指标之间找一个平衡点，如果在准确性上允许一定的损失，但是追求更小的模型和更快的速度，这就直接催生了 MobileNet 或类似的以手机端或嵌入式端为运行环境的网络结构的出现。 MobileNet V1 (https://arxiv.org/pdf/1704.04861.pdf) 和 MobileNet V
大家好，我是来自Google Research的高级软件工程师汪启扉，首先感谢LiveVideoStack邀请我在此处演讲。今天，我的主题是高效终端设备机器学习的最新进展 。
TensorFlow 的 JS 版本终于出啦，deeplearn.js 正式收编至 TensorFlow 项目，并改名为 TensorFlow.js ： 采用 WebGL 加速的基于浏览器的 JS 机器学习库。 摘要： 本文涉及 TensorFlow 基本概念的理解，迁移学习技术的实践应用，全文从技术聊到产品的玩法，设计师／产品经理只有懂得技术的新特性，才能为产品融入新的玩法。设计师也应该关注新技术带来的新的交互方式的变化，研究怎么样的交互方式才适合基于浏览器的深度学习应用。 阅读本文需要有 tensorf
TensorFlow 的 JS 版本终于出啦，deeplearn.js 正式收编至 TensorFlow 项目，并改名为 TensorFlow.js ：
卷积神经网络 概念认识：https://cloud.tencent.com/developer/article/1822928
Tensorflow2之后，训练保存的模型也有所变化，基于Keras接口搭建的网络模型默认保存的模型是h5格式的，而之前的模型格式是pb。Tensorflow2的h5格式的模型转换成tflite格式模型非常方便。本教程就是介绍如何使用Tensorflow2的Keras接口训练分类模型并使用Tensorflow Lite部署到Android设备上。
从 2018 年 10 月到 2019 年 6 月，NLP 三大模型横空出世，分别是 Google 的 BERT，OpenAI 的 GPT-2 和 CMU 和 Google 联手的 XLNet。
迁移学习是这两年比较火的一个话题，主要原因是在当前的机器学习中，样本数据的获取是成本最高的一块。而迁移学习可以有效的把原有的学习经验（对于模型就是模型本身及其训练好的权重值）带入到新的领域，从而不需要过多的样本数据，也能达到大批量数据所达成的效果，进一步节省了学习的计算量和时间。
深度学习的魅力在于预训练好的模型能够对完全不同的数据集进行分类。这种能力内用了这些深度神经网络结构（在ImageNet数据集上进行过训练）的预训练权重并把其应用在我们自己的数据集上。
但是，后来当我想用resnet101或者152等网络时，常规的操作是不行的。以下代码会报错：
在前九章中，我们使用 TensorFlow Mobile 在移动设备上运行各种由 TensorFlow 和 Keras 构建的强大的深度学习模型。 正如我们在第 1 章，“移动 TensorFlow 入门”中提到的那样，Google 还提供了 TensorFlow Lite（可替代 TensorFlow Mobile 的版本）在移动设备上运行模型。 尽管自 Google I/O 2018 起它仍在开发人员预览中，但 Google 打算“大大简化开发人员针对小型设备的模型定位的体验。” 因此，值得详细研究 TensorFlow Lite 并为未来做好准备。
Keras的.h5模型转成tensorflow的.pb格式模型，方便后期的前端部署。直接上代码
新智元报道 来源：research.googleblog.com 作者：Mark Sandler and Andrew Howard 编译：文强 【新智元导读】谷歌今天发布MobileNet重大更新，推出MobileNetV2，在结构上使用depthwise可分离卷积为基础，在层与层之间增加了线性的bottleneck，并且bottleneck之间也增加了残差连接，因此速度更快，精度更高，更适合设备上处理。 去年我们推出了MobileNetV1，这是一系列专为移动设备设计的通用计算机视觉神经网络，支持
可重现性是许多研究领域的基本要求，包括基于机器学习技术的研究领域。然而，许多机器学习出版物要么不可再现，要么难以复制。
这个系列已经更新了20多篇了，感谢一直以来大家的支持和等待。前面已经介绍过MobileNet V1，MobileNet V2，MobileNet V3，ShuffleNet V1这几个针对移动端设计的高效网络，ShuffleNetV2是ShuffleNetV1的升级版，今天就一起来看看这篇论文。论文原文见附录。
在图像中局部像素之间的联系较为紧密，而距离较远的像素联系相对较弱。因此，其实每个神经元没必要对图像全局进行感知，只需要感知局部信息，然后在更高层局部信息综合起来即可得到全局信息。卷积操作即是局部感受野的实现，并且卷积操作因为能够权值共享，所以也减少了参数量。
AI 研习社按：移动设备相较于 PC ，携带便携，普及率高。近年来，随着移动设备的广泛普及与应用，在移动设备上使用深度学习技术的需求开始涌现。
近年来，卷积神经网络（CNN）已经主宰了计算机视觉领域。自 AlexNet 诞生以来，计算机视觉社区已经找到了一些能够改进 CNN 的设计，让这种骨干网络变得更加强大和高效，其中比较出色的单个分支网络包括 Network in Network、VGGNet、ResNet、DenseNet、ResNext、MobileNet v1/v2/v3 和 ShuffleNet v1/v2。近年来同样吸引了研究社区关注的还有多分辨率骨干网络。为了能够实现多分辨率学习，研究者设计出了模块内复杂的连接来处理不同分辨率之间的信息交换。能够有效实现这种方法的例子有 MultiGrid-Conv、OctaveConv 和 HRNet。这些方法在推动骨干网络的设计思想方面做出了巨大的贡献。
来源：人工智能AI技术本文约2500字，建议阅读9分钟本文为你整理CNN网络结构发展史。 作者丨zzq来源丨https://zhuanlan.zhihu.com/p/68411179 CNN基本部件介绍 1. 局部感受野 在图像中局部像素之间的联系较为紧密，而距离较远的像素联系相对较弱。因此，其实每个神经元没必要对图像全局进行感知，只需要感知局部信息，然后在更高层局部信息综合起来即可得到全局信息。卷积操作即是局部感受野的实现，并且卷积操作因为能够权值共享，所以也减少了参数量。 2. 池化 池化是将输入图像进
安妮 编译整理 量子位 出品 | 公众号 QbitAI 还得从半年前说起。 今年5月的谷歌I/O大会上，安卓工程副总裁Dave Burke宣布将推出一个专门为移动设备优化的TensorFlow，称为T
虽然深度学习在图像分类、检测等任务上颇具优势，但提升模型精度对能耗和存储空间的要求很高，移动设备通常难以达到要求。
为了处理移动和嵌入式视觉任务，本文提出了MobileNets模型。MobileNets基于流线型结构设计，利用深度可分离卷积来建立轻量级深度神经网络。MobileNets引入了两个超参数，让我们可以根据不同任务的条件约束，自由选择模型的尺度规模，通过这两个简单的全局超参数，MobileNets在速度和精度两方面实现了很好的均衡。实验证明，作为轻量级深度网络，MobileNets在诸如识别，定位，检测等计算机视觉任务中都具有普适性和有效性。
作者：Bing Xu、Andrew Tulloch、Yunpeng Chen、Xiaomeng Yang、Lin Qiao
Facebook AI 近日一项研究提出了一种新的卷积模块 IdleBlock 以及使用该模块的混合组成（HC）方法。实验表明这种简洁的新方法不仅能显著提升网络效率，而且还超过绝大多数神经网络结构搜索的工作，在同等计算成本下取得了 SOTA 表现，相信这项研究能给图像识别网络的开发、神经网络结构搜索甚至其他领域网络设计思路带来一些新的启迪。
本篇文章将是本系列文章的最后一篇。本专题将iOS中有关Machine Learning的相关内容做了整体梳理。下面是专题中的其他文章地址，希望如果你有需要，本专题可以帮助到你。
本文主要介绍通过预训练的ImageNet模型实现图像分类，主要使用到的网络结构有：VGG16、InceptionV3、ResNet50、MobileNet。
CNN 取得的大多数进展并非源自更强大的硬件、更多的数据集和更大的模型，而主要是由新的想法和算法以及优化的网络结构共同带来的结果。
领取专属 10元无门槛券
手把手带您无忧上云
云服务器
ICP备案
对象存储
实时音视频
即时通信 IM
