校正随机MALA：神经网络的不确定性量化

MALA是一种流行的基于梯度的马尔可夫链蒙特卡洛方法，用于获取吉布斯后验分布。随机MALA (sMALA) 可扩展至大数据集，但它将目标分布从吉布斯后验改变为仅利用缩减样本量的替代后验。我们引入了一种校正的随机MALA (csMALA)，它带有一个简单的校正项，使得由此产生的替代后验与原始吉布斯后验之间的距离随着完整样本量的增加而减小，同时保持了可扩展性。在非参数回归模型中，我们证明了该替代后验的PAC-Bayes奥拉克不等式。通过对替代后验进行采样，可以实现不确定性量化。聚焦于贝叶斯神经网络，我们分析了浅层神经网络的可信球的直径和覆盖范围，并证明了深度神经网络的最优收缩率。我们的可信性结果独立于校正项，也可应用于标准的吉布斯后验。在高维参数空间中的模拟研究表明，基于其替代吉布斯后验从csMALA中抽取的估计量在实践中确实展现了这些优势。FINISHED