重参数化技巧 - 连续分布采样

为为为什么

发布于 2024-03-28 01:45:05

9520

重参数化（Reparameterization）技巧是一种在机器学习和统计学中常用的技术，主要用于将一个随机变量转换成另一个随机变量，同时保证它们的概率分布保持不变，在生成模型中有着重要应用。

简介

重参数化技巧，就是从一个分布 p_{\theta}(z) 中进行采样，而该分布是带有参数 {\theta} 的，如果直接进行采样（采样动作是离散的，其不可微），是没有梯度信息的，那么在BP反向传播的时候就不会对参数梯度进行更新。重参数化技巧可以保证我们从 p_{\theta}(z) 进行采样，同时又能保留梯度信息。

连续分布采样

我们考虑以下形式:

J_{\theta}=\int p_{\theta}(z) f(z) d z

其中

。这样就解决了采样导致梯度不可传递的问题。

\begin{aligned} J_{\theta} & =\mathbb{E}{z \sim \mathcal{N}\left(z ; \mu{\theta}, \sigma 2\right)}[f(z)] \ & =\mathbb{E}{\varepsilon \sim q(\varepsilon)}\left[f\left(g{\theta}(\varepsilon)\right)\right] \ & =\mathbb{E}{\varepsilon \sim \mathcal{N}(\varepsilon ; 0,1)}\left[f\left(\varepsilon \times \sigma{\theta}+\mu_{\theta}\right)\right]\end{aligned}