From 洪亮劼老师
在过去10年里,特别是在深度学习(Deep Learning)红得发紫之前,概率图模型(Probabilistic Graphical Model)曾经是当仁不让的建模工具以及解决很多实际问题的Go-To方案。那么,在深度学习的强力冲击下,概率图模型的研究发展未来又是怎么样的呢?那很容易想到的就是和深度学习结合起来。
在今年暑期由加拿大Canadian Institute For Advanced Research (CIFAR) 和the Centre de Recherches Mathématiques联合举办的Deep Learning and Reinforcement Learning暑期学校上,机器学习权威Max Welling(这一在概率图模型时代有很多突出贡献的学者)和来自Google Brain的Matthew Johnson(之前师从哈佛的Ryan Adams)共同做了一个两个部分(第一部分,https://drive.google.com/file/d/0B6NHiPcsmak1NHJHdzEySzNNQ0U/view)(第二部分,https://drive.google.com/file/d/0B6NHiPcsmak1RmZ3bmtFWUd5bjA/view)的讲座,介绍了深度学习和概率图模型的结合工作。
这两个讲座应该说,至少从Slides方面看,组织比较松散,不过基本的基于Stochastic-Markov-Chain-Monte-Carlo(SDMCMC)到底要干什么、Variational Autoencoder是什么思路以及各种变种都要解决什么问题,这个讲座还是很清晰得交代了。当然,很多细节肯定需要看原始的论文。这个讲座适合对概率图模型有兴趣的朋友泛读。