机器之心报道 编辑：杜伟、力元 一直以来，贝叶斯深度学习的先验都不够受重视，这样真的好么？苏黎世联邦理工学院计算机科学系的一位博士生 Vincent Fortuin 对贝叶斯深度学习先验进行了重新审视。 众所周知，先验的选择是贝叶斯推断流程中最关键的部分之一，但最近的贝叶斯深度学习模型比较依赖非信息性先验，比如标准的高斯。 在本篇论文中，来自苏黎世联邦理工学院计算机科学系的博士生 Vincent Fortuin 强调了先验选择对贝叶斯深度学习的重要性，概述了针对（深度）高斯过程、变分自编码器、贝叶斯神经网络
朴素贝叶斯（Naive Bayes）是一种基于贝叶斯定理的分类技术，具有实现简单、易于理解、且在多种应用场景中表现优秀的特点。本节旨在介绍贝叶斯定理的基本历史和重要性，以及朴素贝叶斯分类器的应用场景。
选自arXiv 机器之心编译 2017 年 5 月，清华大学朱军教授在机器之心 GMIS 2017 大会现场详解了他们开发的贝叶斯深度学习 GPU 库珠算。近日，清华大学公开了珠算相关论文，机器之心对
Zoubin Ghahramani 是英国皇家学会会士，剑桥大学信息工程系教授，Uber 首席科学家，英国国家数据科学研究所图灵研究所剑桥主任。Zoubin Ghahramani 教授曾工作或学习于宾夕法尼亚大学、MIT、多伦多大学、伦敦大学学院盖茨比组、卡耐基梅隆大学。他的研究聚焦于机器学习/人工智能概率方法，在这些主题上已经发表了超过 250 篇论文。他曾是 Geometric Intelligence（被 Uber 收购，成为了 Uber AI Labs）的联合创始人，指导众多人工智能与机器学习公司。2015 年，因其对机器学习的贡献，被选为英国皇家学会会士。
选自arXiv.org 机器之心编译 参与：蒋思源、吴攀 深度学习是一种高效的非线性高维数据处理方法，它可以更自然地解释为一种工程或算法，而本论文希望从贝叶斯的角度将深度学习看作是一种广义线性模型的
机器之心整理 演讲者：朱军 5 月 27-28 日，机器之心在北京 898 创新空间顺利主办了第一届全球机器智能峰会（GMIS 2017）。中国科学院自动化研究所复杂系统管理与控制国家重点实验室主任王飞跃为大会做了开幕式致辞。大会第一天，「LSTM 之父」Jürgen Schmidhuber、Citadel 首席人工智能官邓力、腾讯 AI Lab 副主任俞栋、英特尔 AIPG 数据科学部主任 Yinyin Liu、GE Transportation Digital Solutions CTO Wesly M
首先写一下为什么会写这个吧，之前在看linUCB的一篇博客的时候，看到了这么一段话：
【导读】近日，Novartis的数据科学家 Eric J. Ma 进行了一次关于贝叶斯深度学习理论和实现的演讲，演讲题目是《An Attempt At Demystifying Bayesian Deep Learning》，在这次演讲中，目的是要做两件事情：揭秘深度学习的本质（实质上是用梯度下降进行带权值的矩阵乘法），并揭秘贝叶斯深度学习（将先验信息加在权值上）。 然后，作者通过PyMC3和Theano代码来说明如何构建贝叶斯深度网络，并将结果中的不确定性进行可视化，这个PPT和视频内容是学习贝叶斯深度学
【导读】近日，Novartis的数据科学家Eric J. Ma进行了一次关于贝叶斯深度学习理论和实现的演讲，演讲题目是《An Attempt At Demystifying Bayesian Deep Learning》，在这次演讲中，目的是要做两件事情：揭秘深度学习的本质（实质上是用梯度下降进行带权值的矩阵乘法），并揭秘贝叶斯深度学习（将先验信息加在权值上）。 然后，作者通过PyMC3和Theano代码来说明如何构建贝叶斯深度网络，并将结果中的不确定性进行可视化，这个PPT和视频内容是学习贝叶斯深度学习非
之前介绍了14种文本分类中的常用算法，包括8种传统算法：k临近、决策树、多层感知器、朴素贝叶斯（包括伯努利贝叶斯、高斯贝叶斯和多项式贝叶斯）、逻辑回归和支持向量机；4种集成学习算法：随机森林、AdaBoost、lightGBM和xgBoost；2种深度学习算法：前馈神经网络和LSTM。 各篇链接如下：
选自arXiv 机器之心编译 参与：蒋思源 近日，腾讯发表了一篇介绍并行贝叶斯在线深度学习（PBODL）框架的论文，该论文表示这一框架已经用于腾讯广告系统的点击率预测，并获得了稳定高效的性能。该论文还
清华大学计算机系长聘副教授朱军 朱军博士是清华大学计算机系长聘副教授、智能技术与系统国家重点实验室副主任、卡内基梅隆大学兼职教授。2013年，入选IEEE Intelligent Systems的“人工智能10大新星”（AI’s 10 to Watch）。他主要从事机器学习研究，在国际重要期刊与会议发表学术论文80余篇。担任国际期刊IEEE TPAMI和Artificial Intelligence的编委、国际会议ICML 2014地区联合主席、以及ICML、NIPS等国际会议的领域主席。 记者 |
记者 | 何永灿 朱军博士是清华大学计算机系长聘副教授、智能技术与系统国家重点实验室副主任、卡内基梅隆大学兼职教授。2013年，入选IEEE Intelligent Systems的“人工智能10大新
AI 科技评论按：神经信息处理系统大会（NeurIPS）是人工智能领域最知名的学术会议之一，NeurIPS 2018 （https://nips.cc/Conferences/2018）已于去年 12 月 3 日至 8 日在加拿大蒙特利尔市举办。来自 Zighra.com 的首席数据科学家在参加完此次会议之后，撰写了一篇关于贝叶斯研究的参会总结，AI 科技评论编译整理如下。 此次会议支持现场直播，所有讲座的视频内容均可以在 NeurIPS 的 Facebook 主页上找到，除此之外，NeurIPS 主页上还
AI科技评论按: 3月3日，中国人工智能学会AIDL第二期【人工智能前沿讲习班】在北京中科院自动化所举行，本期讲习班的主题为【机器学习前沿】。周志华教授担任学术主任，前来授课的嘉宾均为中国机器学习界一流专家、资深科研人员和企业精英，包括：耿新、郭天佑、刘铁岩、王立威、叶杰平、于剑、余扬、张长水、郑宇、朱军。 来自清华大学计算机科学与技术系的朱军副教授做了题为《贝叶斯学习前沿进展》的开场分享课。总共2个小时时长的课程，内容主要分为三大部分：贝叶斯基本理论、模型和算法；可扩展的贝叶斯方法；深度生成模型。本文乃三
【导读】12月7日，第31届神经信息处理系统大会（Neural Information Processing Systems，NIPS）邀请牛津大学统计学教授、Deepmind 研究科学家，同时也是和Hinton一起发明深度信念网络（Deep Belief Network，DBN）的Hinton高徒 Yee Whye Teh（郑宇怀）发表了题为《Bayesian Deep Learning and Deep Bayesian Learning》（贝叶斯深度学习与深度贝叶斯学习）的报告。 ▌演讲人介绍 ---
所谓贝叶斯神经网络，简单来说便是将一般神经网络中的权重和偏置由确定的数值变为一个分布。
A survey on Bayesian deep learning贝叶斯深度学习综述
本文介绍了贝叶斯深度学习与深度贝叶斯学习的研究背景、现状和未来展望。首先介绍了贝叶斯深度学习和深度贝叶斯学习的基本概念，然后阐述了这些方法在机器学习中的应用。最后，讨论了贝叶斯深度学习与深度贝叶斯学习未来的研究方向和挑战。
选自arXiv 机器之心编译 参与：蒋思源、李泽南 深度神经网络（DNN）参数中简单而强大的贝叶斯推理（Bayesian inference）技术有可能大大扩展深度学习技术的应用范围。在现实世界的应用中，意外错误可能会造成危险和财产损失，而预料之内的问题则可以让智能体寻求人类的指导（以主动学习的形式），或是采取一些安全的默认行为（如关机）来进行规避。近日，来自蒙特利尔 MILA、Element AI 和麦吉尔大学等机构的学者共同提出了「贝叶斯超网络」，使用新方法提升了 DNN 参数的准确性。 通常情况下，D
在现代机器学习应用中，对实验到生产的流程进行简化是最难实现的任务之一。在已经市场化深度学习框架中，Facebook的PyTorch因其高度灵活性成为数据科学界的最爱，PyTorch能够实现快速建模和实验。但是，深度学习应用中的许多实验面临的挑战已经超出了特定框架的能力范围。
看过了各式各样的教程之后，你现在已经了解了神经网络的工作原理，并且也搭建了猫狗识别器。你尝试做了了一个不错的字符级RNN。你离建立终端只差一个pip install tensorflow命令了对吗？大错特错。
作者 | 王灏 整理 | 维克多 人工智能（AI）的进展显示，通过构建多层的深度网络，利用大量数据进行学习，可以获得性能的显著提升。但这些进展基本上是发生在感知任务中，对于认知任务，需要扩展传统的AI范式。 4月9日，罗格斯大学计算机科学系助理教授王灏，在AI TIME青年科学家——AI 2000学者专场论坛上，分享了一种基于贝叶斯的概率框架，能够统一深度学习和概率图模型，以及统一AI感知和推理任务。 据介绍，框架有两个模块：深度模块，用概率型的深度模型表示；图模块，即概率图模型。深度模块处理高维信号，图模
来源：GitHub 编译：机器之心 参与：吴攀 本文长度为1200字，建议阅读4分钟 本文为你介绍「珠算（ZhuSuan）」这一软件库的介绍文档。 5月27-28日，机器之心主办的第一届全球机器智能峰会（GMIS 2017）将在北京 898 创新空间举行。在峰会第一天下午的「机器学习」主题 Session 上，清华大学副教授朱军将分享解读《珠算：贝叶斯深度学习的 GPU 库（ZhuSuan: a GPU Library for Bayesian Deep Learning）》。 近日，清华大学机器学习组
新年伊始，Nature 旗下再添三本新刊：Nature Aging（《自然 - 老龄化》）、Nature Computational Science（《自然 - 计算科学》）和 Nature Reviews Methods Primers（《自然综述 - 方法导论》）。其中 Nature Reviews Methods Primers 以刊发综述文章的形式为读者提供各种科学方法的概述及其在不同研究问题上的应用，每周出版一次。期刊上的所有文章都将采取约稿形式，涵盖生命科学和物理科学中使用的分析、应用、统计、理论和计算方法。
贝叶斯分类器在早期的自然语言处理任务中有着较多实际的应用，例如大部分的垃圾邮件处理都是用的贝叶斯分类器。贝叶斯分类器的理论对于理解后续的NLP模型有很大的进益，感兴趣的小伙伴一定要好好看看，本文会详细的讲述贝叶斯分类器的原理。
Google AI 终于发布了 AutoML 的 beta 版，有人说这项服务将彻底改变深度学习的方式。
【新智元导读】 深度学习火热的背后，也带来了对神经网络自身能力的质疑，特别是被人诟病的“黑箱”问题。本文介绍了一些通过不同于深度学习的路径实现 AI 的公司，强调贝叶斯理论的重要性，指出非确定性和高斯过程在人工智能的发展中其实扮演着重要角色。在作者的介绍中，Uber 似乎是最痴迷高斯过程的一家高科技企业。 在硅谷，神经网络十分流行，它带来了种类繁多的互联网服务和众多形式的人工智能。但是，神经网络再好，能做的可能也不过是从你的线上相册中识别出猫来。AI 研究者知道，神经网络目前依然有很大的缺陷，并且缺陷如此之
2019 年 12 月 22 日 Carles Gelada 发布的推文。推文链接：https://twitter.com/carlesgelada/status/1208618401729568768
作者：夏飞 Google | 软件工程师 量子位 已获授权编辑发布 转载请联系原作者 本文作者夏飞，清华大学计算机软件学士，卡内基梅隆大学人工智能硕士，现为谷歌软件工程师。 在这篇文章中，他探讨了机器
在人工智能领域中，深度学习掀起了最近一次浪潮，但在实践和应用中也面临着诸多挑战，特别是关系到人的生命，如医疗、自动驾驶等领域场景时，黑盒的不可解释性、安全等一系列问题仍然是产学研界关注的焦点问题。
贝叶斯定理正在变得如此流行，以至于在CBS剧《生活大爆炸》中也出现了它的身影。纽约时报说，贝叶斯统计学家“遍布一切，从物理学到癌症研究，从生态学到心理学”。物理学家提出了量子机器的贝叶斯解释，以及贝叶
【新智元导读】康奈尔大学研究员结合贝叶斯和对抗生成网络，在6大公开基准数据集上实现了半监督学习的最佳性能，同时，这也是迈向终极无监督式学习的一大步。研究提出了一个实用的贝叶斯公式，用GAN来进行无监督学习和半监督式学习。这种新提出的方法，简洁性是其最大的优势——推理是直接进行的、可解释的、稳定的。所有的实验结果的获得，都不需要参数匹配，正则化或者任何的特别（ad-hoc）技巧。 康奈尔大学的 Andrew Gordon Wilson 和 Permutation Venture 的 Yunus Saatch
作者：刘才权 编辑：陈人和 前 言 如今机器学习和深度学习如此火热，相信很多像我一样的普通程序猿或者还在大学校园中的同学，一定也想参与其中。不管是出于好奇，还是自身充电，跟上潮流，我觉得都值得试一试。对于自己，经历了一段时间的系统学习（参考《机器学习/深度学习入门资料汇总》），现在计划重新阅读《机器学习》[周志华]和《深度学习》[Goodfellow et al]这两本书，并在阅读的过程中进行记录和总结。这两本是机器学习和深度学习的入门经典。笔记中除了会对书中核心及重点内容进行记录，同时，也会增加自己的理
对大脑和支配神经处理的原理的理解需要简洁的理论,能够解释一系列不同的现象,并且能够做出可检验的预测。在这里,我们回顾贝叶斯因果推理理论,该理论已经由几个研究小组在人类和其他灵长类动物的各种任务中进行了测试、完善和扩展。贝叶斯因果推理是规范性的,已经解释了大量任务中的人类行为,包括单感觉和多感觉 知觉任务、感觉运动和运动任务,并解释了反直觉的发现。该理论做出了经过实验测试和证实的新颖预测,最近的研究已经开始绘制其算法和人脑中的神经实现。该理论所解释的现象的简约性和多样性,以及它在Marr 分析的所有三个层次上对大脑功能的启发,使得贝叶斯因果推理成为一个强大的神经科学理论。这也强调了协作和多学科研究对神经科学新理论发展的重要性。
加性注意力机制、训练推理效率优于其他Transformer变体，这个Fastformer的确够快
本篇文章主要概括了关于贝叶斯深度学习的综述：A Survey on Bayesian Deep Learning。内容包括贝叶斯深度学习的基本介绍以及其在推荐系统，话题模型，控制等领域的应用。
多数讲师和助教都是贝叶斯方法研究团队的成员以及来自世界顶级研究中心的研究者。很多讲师曾经在顶级国际机器学习会议例如 NIPS、ICML、ICCV、CVPR、ICLR、AISTATS 等发表过论文。贝叶斯方法研究团队已经开发了一系列的大学课程，包括贝叶斯方法、深度学习、优化以及概率图模型，拥有大量的教学经验。
【导读】本文是悉尼大学博士生 Thushan Ganegedara 撰写的一篇博文，主要介绍贝叶斯线性回归的内在原理。我们知道，深度学习可以利用大规模数据产生很好的结果，但是对于小样本高维度问题，贝叶
论文 1：Beyond Accuracy: Behavioral Testing of NLP Models with CheckList
选自Github 机器之心编译 参与：吴攀 5 月 27-28 日，机器之心主办的第一届全球机器智能峰会（GMIS 2017）将在北京 898 创新空间举行。在峰会第一天下午的「机器学习」主题 Session 上，清华大学副教授朱军将分享演讲《珠算：贝叶斯深度学习的 GPU 库（ZhuSuan: a GPU Library with Bayesian Deep Learning）》。近日，清华大学机器学习组已经在 GitHub 上发布了「珠算（ZhuSuan）」这一软件库。机器之心在本文中编译介绍了该项目的
作为 2019 年最后一场重量级的人工智能国际学术顶会，NeurIPS 2019 所反映出的一些人工智能研究趋势，例如神经网络可解释性、深度学习新方法、神经科学等等，想必对于大家在新的一年开展研究工作，具有一定的借鉴和参考价值。
本文由LCatro整理 机器学习 机器学习算法原理 https://github.com/wepe/MachineLearning 机器学习实战原书内容与批注 https://github.com/apachecn/MachineLearning 机器学习的Python 实现 https://github.com/lawlite19/MachineLearning_Python#1-%E4%BB%A3%E4%BB%B7%E5%87%BD%E6%95%B0 机器学习算法集锦 https://zhuanla
导读：AI领域顶会NeurIPS正在加拿大蒙特利尔举办。本文针对实验室关注的几个研究热点，模型压缩、自动机器学习、机器学习与最优化算法，选取23篇会议上入选的重点论文进行分析解读，与大家分享。Enjoy！ NeurIPS (Conference on Neural Information Processing Systems，神经信息处理系统进展大会)与ICML并称为神经计算和机器学习领域两大顶级学术会议。今年为第32届会议，将于 12月3日至8日在加拿大蒙特利尔举办。腾讯AI Lab第三次参加Ne
AI领域顶会NeurIPS正在加拿大蒙特利尔举办。本文针对实验室关注的几个研究热点，模型压缩、自动机器学习、机器学习与最优化算法，选取23篇会议上入选的重点论文进行分析解读，与大家分享。Enjoy！
从今天开始，UAI与PaddlePaddle联合推出的【AI核心技术掌握】系列课程继续更新！
领取专属 10元无门槛券
手把手带您无忧上云
云服务器
ICP备案
对象存储
实时音视频
即时通信 IM
