ICMLDec, 2016

使用辅助变量的 PixelCNN 模型进行自然图像建模

PDF
TL;DR本论文探讨自然图像的概率模型，并通过引入辅助变量扩展了 PixelCNN 架构家族的自回归模型，提出了两个新的基于不同图像转换的生成式图像模型，包括图像的分辨率金字塔。该模型解决了现有 PixelCNN 模型的两个已知缺点，并表明其产生的图片样本更加真实。
probabilistic modelspixelcnn architecturesgenerative image modelsauxiliary variablesmulti-resolution image pyramid
发现论文，激发创造
  • PixelVAE：自然图像的潜变量模型

    这篇论文提出了 PixelVAE，这是一种基于 PixelCNN 的 VAE 模型，可以高效地捕获大型结构和保留压缩的潜在表示，适用于无监督学习的挑战。

    Nov, 2016

  • 具有辅助解码器的分层自回归图像模型

    提出使用离散表示图像的方法，可以让基于自回归的生成模型输出具备更好的大规模连贯性，在 ImageNet 数据集上进行实验，证明了分层条件自回归模型可以在 128×128 和 256×256 的分辨率上生成逼真的图像。

    Mar, 2019

  • 辅助深度生成模型

    通过引入辅助变量（auxiliary variables），我们扩展了深度生成模型，用于提高变分近似方法，这让变分分布更有表现力，具有更快的收敛速度和更好的结果，从而实现了半监督学习的最先进性能，适用于 MNIST、SVHN 和 NORB 数据集。

    Feb, 2016

  • 像素递归神经网络

    本文介绍了一种深度神经网络模型，用于在两个空间维度上序列预测图像像素；该模型对图像的离散概率进行建模，并在深层循环网络中使用了快速的二维循环层和残差连接，实现了比以前的最新技术更好的自然图像日志似然度分数。

    Jan, 2016

  • 自回归图像生成与集成量化

    本文提出了一个基于深度生成模型的图像生成网络，结合卷积神经网络的归纳偏置和自回归的序列建模，通过多重领域特征的变量规范，设计了分布估计的 Gumbel 采样策略来提高图像的生成质量并克服于训练和推理过程中所产生的偏差和误差，取得了当前同类算法中最优秀的生成表现。

    Jul, 2022

  • 辅助导向自回归变分自动编码器

    本文提出了一种训练程序，它基于辅助损失函数来控制潜变量所捕获的信息以及留给自回归解码器的信息，该方法可以实现任意强大的自回归解码器，达到具有潜变量的模型中最先进的定量性能，并生成定性令人信服的样本。

    Nov, 2017

  • PixelVAE++：具离散先验的改进 PixelVAE 模型

    PixelVAE++ 是一种结合了 VAE 和 PixelCNN++ 的新型生成模型，可在保留潜变量信息的同时学习图像的全局和局部结构，并在 MNIST、Omniglot、CIFAR-10 数据集中实现了最先进的性能。

    Aug, 2019

  • 自回归分位数网络用于生成建模

    通过引入自回归隐式分位数网络 (AIQN)，本文提出了一种与传统模型不同的生成模型方法，通过量化回归隐式地捕获分布，AIQN 可以在不损失样本多样性的情况下实现优越的感知质量和评估度量的改进，使用 Inception score、FID、非樱桃挑选样本和修补结果等指标，我们将 AIQN 扩展到 PixelCNN 模型，并在 CIFAR-10 和 ImageNet 上展示结果，结果表明，AIQN 可以稳健地提高感知质量，同时仍保持高度多样化的分布。

    Jun, 2018

  • 具有 PixelCNN 解码器的条件图像生成

    本研究使用基于 PixelCNN 架构的新图像密度模型探索了有条件的图像生成技术。模型可以以任何的向量作为条件，包括描述性标签或标记或其他网络产生的潜在嵌入向量。当以来自 ImageNet 数据库的类标签作为条件时，模型能够生成多样化、逼真的场景。同时，研究还证明了该模型可以作为强大的自编码器解码器，且具有比 PixelRNN 更高的性能且计算成本更低。

    Jun, 2016

  • PixelSNAIL: 一种改进的自回归生成模型

    本文介绍了一种将因果卷积与自注意力相结合的新型生成模型，将其应用于密度估计任务，并在 CIFAR-10 和 ImageNet 上取得了最先进的结果。

    Dec, 2017