这是《机器学习-原理、算法与应用》这是机器学习与深度学习习题的第二部分，为《机器学习-原理，算法与应用》一书编写，二者配合使用。习题集的绝大部分题目都可以在此书中找到答案。同时也可以用作高校相关专业的机器学习，深度学习课程习题集。后续我们将给出最后一部分，以及整个习题集的完整答案。
在深度学习时代到来之前，大量的图像处理技术被用来将图像分割成一些感兴趣的区域（ROI）。下面列出了一些常用的方法。 灰度分割 这是最简单的语义分割形式，它包括将一个区硬编码的规则或某个区域必须满足的特定的标签属性赋予这个区域。可以根据像素的属性（如灰度值）来构建这样的规则。「分裂-合并」算法就是一种用到了灰度分割技术的方法。该算法递归地将图像划分成若干子区域，直到可以为划分出的子区域分配一个标签，然后通过合并将相邻的带有相同标签的子区域融合起来。 该方法存在的问题是，规则必须是硬编码的。此外，仅使用灰度信息来表示复杂的类（比如人）是极其困难的。因此，需要特征提取和优化技术来恰当地学习这些复杂类所需的表征形式。
为了帮助参加校园招聘、社招的同学更好的准备面试，SIGAI曾整理出了一些常见的机器学习、深度学习面试题（上篇），获得了小伙伴们的广泛好评，并强烈要求推出下篇的面试问题集锦。千呼万唤始出来，今日特地奉上，希望帮助各位更好的理解机器学习和深度学习的算法原理和实践应用。
随机森林的预测输出值是多课决策树的均值，如果有n个独立同分布的随机变量xi，它们的方差都为σ2，则它们的均值的方差为：
在很多情况下，可能会遇到数据不平衡问题。数据不平衡是什么意思呢？举一个简单的例子：假设你正在训练一个网络模型，该模型用来预测视频中是否有人持有致命武器。但是训练数据中只有 50 个持有武器的视频，而有 1000 个没有持有武器的视频。如果使用这个数据集完成训练的话，模型肯定倾向于预测视频中没有持有武器。针对这个问题，可以做一些事情来解决：
神经网络由于参数量大，运算量大，往往在部署到IOT设备时会碰到储存空间不够，运算时长过长或者量化精度不够的问题。 针对这些问题，本文介绍了神经网络模型在轻量级设备的部署技巧，具体内容包括神经网络模型量化的基本原理和主要方法，以及部分低功耗IOT设备上模型部署的实例与技巧。 量化基本原理 量化本质上是数值范围的一种调整，目前主流的神经网络的量化主要是将fp32的一组数据映射到int8的范围内(也有研究int6 int4甚至int2的 本文不做讨论)，（如下图数据所示）。且由下表格可知，int8的表示范围和步长
一年一度的校园招聘已经开始了，为了帮助参加校园招聘、社招的同学更好的准备面试，SIGAI整理出了一些常见的机器学习、深度学习面试题。理解它们，对你通过技术面试非常有帮助，当然，我们不能只限于会做这些题目，最终的目标是真正理解机器学习与深度学习的原理、应用。
机器之心专栏 作者：单乐 本届 CVPR 2017大会上出现了很多值得关注的精彩论文，国内自动驾驶创业公司 Momenta 联合机器之心推出 CVPR 2017 精彩论文解读专栏，本文是此系列专栏的第四篇，介绍了 UC Berkeley 与谷歌在大会上展示的 Oral 论文《Unsupervised Learning of Depth and Ego-Motion from Video》，作者为 Momenta 高级研发工程师单乐。 给定一张图像，人类可以根据以往的视觉经验推断出 3D 景深，而如何让计算机
真的是千呼万唤始出来emmmm，去年春招结束写了篇面试的经验分享。在文中提到和小伙伴整理了算法岗面试时遇到的常见知识点及回答，本想着授人以渔，但没想到大家都看上了我家的 ！但因本人执行力不足，被大家催到现在才终于想着行动起来分享给大家，笔者在这里给各位读者一个大大的抱歉，求原谅呜呜~~相信今年参加秋招的小伙伴们一定都拿到理想的offer啦，明年准备找工作的小盆友如果觉得本文还有些用可以收藏哈。
前两天讲了RCNN和Fast-RCNN，相信对目标检测已经有了一些认识了。我们知道RCNN和Fast-RCNN都是双阶段的算法，依赖于候选框搜索算法。而搜索算法是很慢的，这就导致这两个算法不能实时。基于这个重大缺点，Faster-RCNN算法问世。
导言 啦啦啦，现今 GAN 算法可以算作 ML 领域下比较热门的一个方向。事实上，GAN 已经作为一种思想来渗透在 ML 的其余领域，从而做出了很多很 Amazing 的东西。比如结合卷积神经网络，可以用于生成图片。或者结合 NLP，可以生成特定风格的短句子。（比如川普风格的 twitter......） 可惜的是，网络上很多老司机开 GAN 的车最后都翻了，大多只是翻译了一篇论文，一旦涉及算法实现部分就直接放开源的实现地址，而那些开源的东东，缺少了必要的引导，实在对于新手来说很是懵逼。所以兔子哥哥带着
今17年，近期和团队整理BAT机器学习面试1000题系列，侧重机器学习、深度学习。我们将通过这个系列索引绝大部分机器学习和深度学习的笔试面试题、知识点，它将更是一个足够庞大的机器学习和深度学习面试库/知识库，通俗成体系且循序渐进。 此外，有四点得强调下： 1、虽然本系列主要是机器学习、深度学习相关的考题，其他类型的题不多，但不代表应聘机器学习或深度学习的岗位时，公司或面试官就只问这两项，虽说是做数据或AI相关，但基本的语言（比如Python）、编码coding能力（对于开发，编码coding能力怎么强调都不
作者灯会为21届中部985研究生，凭借自己整理的面经，去年在腾讯优图暑期实习，七月份将入职百度cv算法工程师。在去年灰飞烟灭的算法求职季中，经过30+场不同公司以及不同部门的面试中积累出了CV总复习系列，此为深度学习上篇。
人工神经网络定义：由许多简单的并行工作的处理单元组成的系统，功能取决于网络的结构、连接强度及个单元处理方式。
近年来，快速发展的深度学习技术已经渗透进了各行各业，医疗方面也不例外。这篇文章我主要介绍如何使用深度学习计算机视觉方法对CT扫描中的肝脏和肝脏肿瘤进行分割。
本文提出了一种图像压缩框架，其由一个非线性分析变换、一个均匀量化器和一个非线性综合变换组成。这些变换都三层结构，每一层由一个卷积线性过滤器和非线性的激活函数构成。与大多数卷积神经网络不同的是，这些联合的非线性是用来实现一种局部增益控制，这种局部增益控制最初是来源于生物神经元领域的发现（局部增益控制已经成为生物神经元建模的一种方法）。作者使用随机梯度下降方法来联合优化整个模型的率失真性能。针对均匀标量量化器的目标函数不连续问题，作者提出了一种连续可微的近似量化，从而保证在优化过程中梯度能有效地反传。最后在测试集上，作者提出压缩模型展现出比 JPEG 和 JPEG2000 更好的性能。而且，该压缩模型在所有码率和所有图像上，MS-SSIM 性能都要好于 JPEG 和 JPEG2000。
随着专栏内图机器学习的内容逐渐丰富，从本文开始，我们也将更详细的了解图在实际工业场景中的应用。
算法：entropy滤波是图像局部熵，熵是使用基为2的对数运算出来的，将局部区域的灰度值分布进行二进制编码，返回编码的最小值。
大家好，我是东哥。 下面是几位机器学习权威专家汇总的725个机器学习术语表，非常全面了，值得收藏！ 英文术语 中文翻译 0-1 Loss Function 0-1损失函数 Accept-Reject Sampling Method 接受-拒绝抽样法/接受-拒绝采样法 Accumulated Error Backpropagation 累积误差反向传播 Accuracy 精度 Acquisition Function 采集函数 Action 动作 Activation Function 激活函数 Active
关键词：Python，tensorflow，深度学习，卷积神经网络 正文如下： 前言 上月导师在组会上交我们用tensorflow写深度学习和卷积神经网络，并把其PPT的参考学习资料给了我们， 这是codelabs上的教程：《TensorFlow and deep learning,without a PhD》 https://codelabs.developers.google.com/codelabs/cloud-tensorflow-mnist/#0 当然需要安装python，教程推荐使用pytho
你好，我是zhenguo 这是几位机器学习权威专家汇总的725个机器学习术语表，非常全面了，值得收藏！ 英文术语 中文翻译 0-1 Loss Function 0-1损失函数 Accept-Reject Sampling Method 接受-拒绝抽样法/接受-拒绝采样法 Accumulated Error Backpropagation 累积误差反向传播 Accuracy 精度 Acquisition Function 采集函数 Action 动作 Activation Function 激活函数 Acti
“强基固本，行稳致远”，科学研究离不开理论基础，人工智能学科更是需要数学、物理、神经科学等基础学科提供有力支撑，为了紧扣时代脉搏，我们推出“强基固本”专栏，讲解AI领域的基础知识，为你的科研学习提供助力，夯实理论基础，提升原始创新能力，敬请关注。
互联网时代，社交媒体分享、自动驾驶、增强显示、卫星通信、高清电视或视频监控等应用场景对图片和视频有很强的需求，压缩算法也因此备受关注，但是不同的应用场景对压缩算法的性能要求也不一样，有的需求是保持高清的画质是第一位，有的需求是体积小是第一位，可以损害一些画质。
在计算机视觉任务中，为了将预训练的深度神经网络模型应用到各种移动设备上，学习一个轻便的网络越来越重要。当我们可以直接访问训练数据集时，现有的深度神经网络压缩和加速方法对于训练紧凑的深度模型是非常有效的，但是现实情况却是，有了隐私保护，法规政策等，数据集的回去越来越困难，为此，本文提出了一种利用生成对抗网络(GANs)训练高效深度神经网络的新框架DAFL（Data-Free Learning）。
语义分割是计算机视觉中的基本任务，在语义分割中我们需要将视觉输入分为不同的语义可解释类别，「语义的可解释性」即分类类别在真实世界中是有意义的。例如，我们可能需要区分图像中属于汽车的所有像素，并把这些像素涂成蓝色。
同样在去年，该团队在 NIPS 2017 AI 对抗性攻防竞赛的三项比赛任务中（有/无特定目标攻击；攻击检测），全部获得冠军，战胜了包括斯坦福、约翰霍普金斯大学等世界著名高校在内的 100 多支代表队，在人工智能模型的鲁棒性和安全性应用方面迈出了重要一步。
导语：据介绍，Google Developers Codelabs 提供了有引导的、教程式的和上手式的编程体验。大多数 Codelabs 项目都能帮助你了解开发一个小应用或为一个已有的应用加入新功能的过程。这些应用涉及到很多主题，包括 Android Wear、Google Compute Engine、Project Tango、和 iOS 上的 Google API。 本项目的原文可参阅：https://codelabs.developers.google.com/codelabs/cloud-tens
人类是如何描述场景的？我们可能会说「窗户下有一张桌子」，或者「沙发右边有一盏灯」。图像理解的关键在于将一个整体场景分解成几个单独的实体，这也有助于我们推理目标的不同行为。
翻译 | 王柯凝 编辑 | Just 出品 | 人工智能头条（公众号ID：AI_Thinker） ▌介绍 关于卷积神经网络从交通灯识别到更实际的应用，我经常听到这样一个问题：“会否出现一种深度学习“魔法”，它仅用图像作为单一输入就能判断出食物质量的好坏？”简而言之，在商业中需要的就是这个： 当企业家面对机器学习时，他们是这样想的：欧姆蛋的“质量（quality）”是好的 这是一个不适定问题的例子：解决方案是否存在，解决方案是否唯一且稳定还没办法确定，因为“完成”的定义非常模糊（更不用说实现了）。虽然
前言 上月导师在组会上交我们用tensorflow写深度学习和卷积神经网络，并把其PPT的参考学习资料给了我们， 这是codelabs上的教程：《TensorFlow and deep learning,without a PhD》 https://codelabs.developers.google.com/codelabs/cloud-tensorflow-mnist/#0 当然需要安装python，教程推荐使用python3。 好多专业词太难译了，查了下，大家有些都是不译的。 比如：dropou
对语义分割来讲基于卷积神经网络的方法，依赖像素级ground-truth标记，但是对未知领域可能泛化效果并不好。因为标记过程是沉闷和耗时的，开发将源ground truth标记到目标域引起了很大的关注。本文我们提出一种对抗训练方法在语义分割的内容中进行域适配。考虑语义分割作为结构输出包含源域和目标域的空间相似性，在输出空间中，我们采用对抗训练。为了进一步增强适配模型，我们构建一个多层对抗网络，在不同特征级别上有效的执行输出空间域适配。一系列的实验和消融研究在不同域适配下进行，包括合成到真实和跨城市场景。我们表明提出的方法在精度是视觉质量方面，超过了现有的最先进的方法。
机器之心原创 作者：吴攀、李亚洲 当地时间 3 月 8 日-10 日，Google Cloud NEXT '17 大会在美国旧金山举行。谷歌在本次大会上正式宣布了对数据科学社区 Kaggle 的收购并宣布了多个重量级云 API。机器之心作为受邀媒体也在第一时间从现场发回了报道：《现场直击 | 李飞飞首度亮相谷歌云大会：发布全新 API，解读 AI 民主化》和《现场直击 | 谷歌云大会最后一天解读开放性：从 TensorFlow 开源到开放云平台》。而作为开发者，最关心的则莫过于本次大会中各种更加详细和专一的
图像语义分割是图像处理和机器视觉技术中的重要一环，旨在对图像中的每个像素进行分类。与普通的分类任务不同，语义分割任务输出与输入大小相同的图像，输出图像的每个像素对应了输入图像每个像素的类别。语义分割常被应用于人脸识别、物体检测、医学影像、卫星图像分析、自动驾驶感知等领域。
本文为3Blue1Brown神经网络课程讲解第二部分《Gradient descent, how neural networks learn 》的学习笔记，观看地址：
选自arXiv 机器之心编译 参与：黄小天、路雪、蒋思源 近日南洋理工大学研究者发布了一篇描述卷积网络数学原理的论文，该论文从数学的角度阐述整个卷积网络的运算与传播过程。该论文对理解卷积网络的数学本质非常有帮助，有助于读者「徒手」（不使用卷积API）实现卷积网络。 论文地址：https://arxiv.org/pdf/1711.03278.pdf 在该论文中，我们将从卷积架构、组成模块和传播过程等方面了解卷积网络的数学本质。读者可能对卷积网络具体的运算过程比较了解，入门读者也可先查看 Capsule 论文解
图像压缩是一种广泛使用的技术。在过去的几十年里，传统的图像压缩方法发挥了重要作用。JPEG 是一种基本的图像压缩方法，自20世纪90年代以来一直被使用，并且仍然是主流的压缩格式。JPEG 中应用了 DCT 变换和霍夫曼熵编码。后来，WEBP 、BPG 和 VVC 涉及更复杂的工具来增强速率失真性能。尽管这些强大的工具极大地提高了图像压缩性能，但手动设计的搜索空间和变换仍然可能限制性能。与传统的图像压缩方法相比，LIC是一种数据驱动的方法，不需要手动设计特定的规则。
选自The Gradient 作者：Andy Chen、Chaitanya Asawa 机器之心编译 参与：李诗萌、思源 语义分割是计算机视觉中的基础任务，我们通常会使用基于 CNN 加 CRF 的方法或直接使用对抗性的训练实现端到端的分割。本文简要介绍了这两种方法及它们的特点。 人类是如何描述场景的？我们可能会说「窗户下有一张桌子」，或者「沙发右边有一盏灯」。图像理解的关键在于将一个整体场景分解成几个单独的实体，这也有助于我们推理目标的不同行为。 当然，目标检测方法可以帮助我们绘制某些确定实体的边框，但人
在该论文中，我们将从卷积架构、组成模块和传播过程等方面了解卷积网络的数学本质。读者可能对卷积网络具体的运算过程比较了解，入门读者也可先查看 Capsule 论文解读的第一部分了解详细的卷积过程，但其实我们一般并不会关注于卷积网络到底在数学上是如何实现的。因为各大深度学习框架都提供了简洁的卷积层API，所以我们不需要数学表达式也能构建各种各样的卷积层，我们最多只需要关注卷积运算输入与输出的张量维度是多少就行。这样虽然能完美地实现网络，但我们对卷积网络的数学本质和过程仍然不是太清楚，这也就是本论文的目的。
论文地址：https://arxiv.org/pdf/1908.01580v1.pdf
GAN的发展系列一（CGAN、DCGAN、WGAN、WGAN-GP、LSGAN、BEGAN）
件GAN (cGAN) + Atrous卷积(AC) +带权重块的通道注意力(CAW)
原文链接 摘要 将cv用于研究需要大量的训练图片，同时需要对深层网络的体系结构进行仔细优化。该研究尝试用转移学习来解决这些问题，使用从大基准数据集组成的自然图像得到的预训练权重来初始化最先进的VGG和Inception结构，使用少量的MRI图像来重新训练全连接层。采用图像熵选择最翔实的切片训练，通过对OASIS MRI数据集的实验，他们发现，在训练规模比现有技术小近10倍的情况下，他们的性能与现有的基于深层学习的方法相当，甚至更好 介绍 AD的早期诊断可以通过机器学习自动分析MRI图像来实现。从头开始训练一个网络需要大量的资源并且可能结果还不够好，这时候可以选择使用微调一个深度网络来进行转移学习而不是重新训练的方法可能会更好。该研究使用VGG16和Inception两个流行的CNN架构来进行转移学习。结果表明，尽管架构是在不同的领域进行的训练，但是当智能地选择训练数据时，预训练权值对AD诊断仍然具有很好的泛化能力 由于研究的目标是在小训练集上测试转移学习的鲁棒性，因此仅仅随机选择训练数据可能无法为其提供表示MRI足够结构变化的数据集。所以，他们选择通过图像熵提供最大信息量的训练数据。结果表明，通过智能训练选择和转移学习，可以达到与从无到有以最小参数优化训练深层网络相当甚至更好的性能 方法 CNN的核心是从输入图像中抽取特征的卷积层，卷积层中的每个节点与空间连接的神经元的小子集相连，为了减少计算的复杂性，一个最大池化层会紧随着卷积层，多对卷积层和池化层之后会跟着一个全连接层，全连接层学习由卷积层抽取出来的特征的非线性关系，最后是一个soft-max层，它将输出归一化到期望的水准 因为小的数据集可能会使损失函数陷入local minima，该研究使用转移性学习的方法来尽量规避这种情况，即使用大量相同或不同领域的数据来初始化网络，仅使用训练数据来重新训练最后的全连接层 研究中使用两个流行的架构： VGG16
本文出自近几年备受瞩目的创业公司MagicLeap[1]，发表在CVPR 2018,一作Daniel DeTone[2]，paper[3]，slides[4]，code[5]。
图像分类问题是计算机视觉领域的基础问题，它的目的是根据图像的语义信息将不同类别图像区分开来，实现最小的分类误差。具体任务要求是从给定的分类集合中给图像分配一个标签的任务。总体来说，对于单标签的图像分类问题，它可以分为跨物种语义级别的图像分类，子类细粒度图像分类，以及实例级图像分类三大类别。因为VOC数据集是不同物种类别的数据集，所以本文主要研究讨论跨物种语义级别的图像分类任务。
AI科技评论按：图像语义分割是 AI 领域中一个重要的分支，是机器视觉技术中关于图像理解的重要一环。近年的自动驾驶技术中，也需要用到这种技术。车载摄像头探查到图像，后台计算机可以自动将图像分割归类，以避让行人和车辆等障碍。随着近些年深度学习的火热，使得图像分割有了巨大的发展，本文为大家介绍深度学习中图像分割的经典算法。 在近期 GAIR 大讲堂上，来自浙江大学的在读博士生刘汉唐为等候在直播间的同学们做了一场主题为「图像分割的经典算法」的技术分享，本文根据直播分享内容整理而成，同学们如果对嘉宾所讲的内容感兴趣
题目：使用马尔可夫生成对抗网络进行预先计算的实时纹理合成 文章地址：《Precomputed Real-Time Texture Synthesis with Markovian Generati
提到生成式建模，读者们总是第一时间想到生成对抗网络 (generative adversarial network, GAN)。GAN 采用隐式的生成式建模方法 [8]，其先假定一个较为简单的随机变量的分布如高斯分布，
On Predictive planning and counterfactual learning in active inference
该 repo 的模型或代码结构如下所示： 1. 高斯混合模型 EM 训练 2. 隐马尔可夫模型 维特比解码 似然计算 通过 Baum-Welch/forward-backward 算法进行 MLE 参数估计 3. 隐狄利克雷分配模型（主题模型） 用变分 EM 进行 MLE 参数估计的标准模型 用 MCMC 进行 MAP 参数估计的平滑模型 4. 神经网络 4.1 层/层级运算 Add Flatten Multiply Softmax 全连接/Dense 稀疏进化连接 LSTM Elman 风格的 R
领取专属 10元无门槛券
手把手带您无忧上云
云服务器
ICP备案
对象存储
即时通信 IM
实时音视频
