OpenAI今日早上发布最新工作成果《发光：更好的可逆生成模型》

翻译部分均来自谷歌翻译

今早，发现OpenAI发布最新工作成功及论文《Glow: Better Reversible Generative Models》，根据官网给出的知识体系来看介绍了Glow，一种使用可逆1x1卷积的可逆生成模型。 它扩展了以前关于可逆生成模型的工作并简化了体系结构。 我们的模型可以生成逼真的高分辨率图像，支持高效采样，并发现可用于操纵数据属性的功能。 我们正在发布模型代码和在线可视化工具，以便人们可以探索并构建这些结果。

我们的模型的交互式演示，用于操纵您的脸部属性，并与其他脸部融合。

生成建模是关于观察数据，如一组面部图片，然后学习如何生成这些数据的模型。 学习近似数据生成过程需要学习数据中存在的所有结构，并且成功的模型应该能够合成看起来类似于数据的输出。 准确的生成模型具有广泛的应用，包括语音合成，文本分析和综合，半监督学习和基于模型的控制。 我们提出的技术也可以应用于这些问题。

Glow是一种可逆的生成模型，也称为基于流的生成模型，是NICE和RealNVP技术的扩展。 与GAN和VAE相比，基于流动的生成模型迄今为止在研究界很少受到关注。

基于流的生成模型的一些优点包括：

精确的潜变量推断和对数似然评估。 在VAE中，人们只能推断出与数据点相对应的潜在变量的值。 GAN根本没有编码器来推断潜伏者。 在可逆的生成模型中，这可以在没有近似的情况下完全完成。 这不仅可以实现准确的推理，还可以优化数据的精确对数似然，而不是其下限。

高效的推理和有效的合成。 自回归模型，例如PixelCNN，也是可逆的，但是来自这些模型的合成难以并行化，并且通常在并行硬件上效率低。 基于流的生成模型（如Glow（和RealNVP））可以有效地进行推理和合成的并行化。

下游任务的有用潜在空间。 自回归模型的隐藏层具有未知的边际分布，使得执行有效的数据操作变得更加困难。 在GAN中，数据点通常不能直接在潜在空间中表示，因为它们没有编码器，并且可能没有对数据分布的完全支持。 对于可逆生成模型和VAE而言，情况并非如此，后者允许各种应用，例如数据点之间的插值和现有数据点的有意义修改。

节省内存的巨大潜力。 如RevNet论文所述，在可逆神经网络中计算梯度需要一定量的内存，而不是线性的深度。

结果

使用我们的技术，与RealNVP相比，我们在标准基准测试中取得了显着的改进，RealNVP是以前基于流量的生成模型的最佳公布结果。

对于RealNVP模型与我们的Glow模型，在各种数据集的测试集上评估的每维度比特的定量性能。

Glow模型可以生成逼真的高分辨率图像，并且可以高效地完成。 我们的模型需要大约130ms才能在NVIDIA 1080 Ti GPU上生成256 x 256样本。 与之前的工作一样，我们发现从降温模型中取样通常会产生更高质量的样品。 通过将潜伏的标准偏差缩放0.7的温度获得上述样品。

潜在空间的插值

我们还可以在任意面之间进行插值，使用编码器对两个图像进行编码并从中间点进行采样。 请注意，输入是任意面，而不是模型中的样本，因此提供了模型支持整个目标分布的证据。

研究方向

我们的工作表明，可以训练基于流量的模型来生成逼真的高分辨率图像，并学习可以轻松用于下游任务（如数据操作）的潜在表示。 我们建议未来工作的几个方向：

在可能性方面与其他模特课程竞争。 自回归模型和VAE在对数似然性方面比基于流量的模型表现更好，但它们分别具有低效采样和不精确推理的缺点。 人们可以将基于流量的模型，VAE和自回归模型结合起来，以牺牲自己的优势; 这将是未来工作的一个有趣方向。

改进架构以提高计算效率和参数效率。 为了生成逼真的高分辨率图像，面部生成模型使用~200M参数和~600个卷积层，这使得训练成本高昂。 深度较小的模型在学习远程依赖性方面表现较差。 使用自我关注架构或执行渐进式训练以扩展到高分辨率可以使得训练发光模型的计算成本更低。

最后，如果您想在研究中使用Glow，我们建议您查看我们的论文以获取更多详细信息，论文地址：https://d4mucfpksywv.cloudfront.net/research-covers/glow/paper/glow.pdf。