【导读】近日,Novartis的数据科学家Eric J. Ma进行了一次关于贝叶斯深度学习理论和实现的演讲,演讲题目是《An Attempt At Demystifying Bayesian Deep Learning》,在这次演讲中,目的是要做两件事情:揭秘深度学习的本质(实质上是用梯度下降进行带权值的矩阵乘法),并揭秘贝叶斯深度学习(将先验信息加在权值上)。 然后,作者通过PyMC3和Theano代码来说明如何构建贝叶斯深度网络,并将结果中的不确定性进行可视化,这个PPT和视频内容是学习贝叶斯深度学习非常好的资料,建议大家收藏。
▌内容目录
简要介绍深度学习:
是一种使用矩阵运算的模型;
并行:线性回归/非线性回归/前馈神经网络结构(Feed Forward NN Architecture)
我们估计哪些参数
权值
过滤器值(卷积)
用梯度下降进行估计
我们缺少什么?不确定性措施:
最重要的原因是:我们能否判断我们的模型对预测是否有信心?
贝叶斯深度学习的本质:
估计参数的概率分布,而不是原来的点估计
最常见的先验:权值矩阵上的单位高斯
代码示例:
用前馈神经网络进行二分类
前馈神经网络的非线性回归
参考文献:
“twiecki”的博客
Yarin Gal thesis + papers
▌演讲视频
参考链接:
https://pydata.org/nyc2017/schedule/presentation/39/
https://ericmjl.github.io/
▌PPT详细内容
-END-
专 · 知
人工智能领域主题知识资料查看获取:【专知荟萃】人工智能领域26个主题知识资料全集(入门/进阶/论文/综述/视频/专家等)
同时欢迎各位用户进行专知投稿,详情请点击:
领取专属 10元无门槛券
私享最新 技术干货