NIPSApr, 2017

通过 Stein 变分梯度下降学习 VAE

PDF
TL;DR基于斯坦变分梯度下降法开发了一种学习变分自编码器 (VAEs) 的新方法，无需对编码器分布的形式进行参数化假设。通过将所提出的编码器与重要性采样相结合，进一步提高了性能。在多个无监督和半监督问题上展示了出色的性能，包括对 ImageNet 数据的半监督分析，展示了该模型对大型数据集的可扩展性。
variational autoencodersstein variational gradient descentencoder distributionimportance samplingsemi-supervised learning
发现论文，激发创造
  • 变分自编码器教程

    介绍了变分自编码器（VAE）背后的直觉，解释了其背后的数学原理，并描述了它们的一些经验行为。

    Jun, 2016

  • 半监督深度生成模型学习分离表示

    该研究提出了一种使用图形模型和深度神经网络架构的变分自编码器，能够学习到不同的表示形式，进一步实现半监督学习，其生成的能力和区分能力也得到了充分验证。

    Jun, 2017

  • 从变分到确定性自编码器

    提出一种基于正则化的确定性编码器和解码器的生成模型框架，替换 VAEs 中的随机性来达到优化潜在空间的目的，并通过引入后验密度估计步骤来生成具有相当或更好质量的样本。

    Mar, 2019

  • 无限变分自编码器用于半监督学习

    本文提出了一种基于混合模型和狄利克雷过程的无限变分自编码器，其容量能够适应输入数据，从而使得自动编码器数量能够根据数据自动变化，实验结果表明该方法在半监督学习中具有很高的灵活性。

    Nov, 2016

  • 具结构离散表示的深度生成模型的无偏学习

    通过将图形模型与深度学习架构组合，我们学习具有两种框架优势的生成模型。我们提出了学习 SVAE 的新算法，并首次证明了 SVAE 处理丢失数据时处理多模态的能力。这些优化创新使 SVAE 能够通过梯度下降法进行学习。

    Jun, 2023

  • 变分图自编码器

    本文提出可变图自编码器 (VGAE) 框架，用于处理基于变分自编码器 (VAE) 的图结构数据无监督学习模型。该模型基于潜在变量，能够学习图的可解释的潜在表示。在引文网络的链接预测任务中，我们使用图卷积网络 (GCN) 编码器和内积解码器来展示该模型。与大多数现有的图结构数据和链接预测无监督学习模型相比，我们的模型可以自然地融入节点特征，从而在许多基准数据集上显著提高预测性能。

    Nov, 2016

  • 重新审视结构化变分自编码器

    通过现代机器学习工具来实现硬件加速、并行化和自动微分的消息传递算法，探讨并展示了 SVAE 模型的优势，从而表明现在是重新审视结构化变分自编码器的时候了。

    May, 2023

  • 变分自编码器中学习潜在子空间

    本文提出了一种基于变分自编码器的生成模型，使用互信息最小化学习与每个标签相关的低维潜空间，并展示了其在特征操作上的实用性。

    Dec, 2018

  • 使用变分自编码器生成可解释的表示

    本文提出了一个框架，利用结构化图形模型在变分自动编码器（VAEs）的编码器中导出可解释的表达，使得在给定图形模型的结构限制下执行推理，并使用深度生成模型处理高维度的杂乱领域变得更容易。同时在无监督和半监督的情况下，通过变分目标进行端对端的学习。

    Nov, 2016

  • 变分自编码器的三种变体

    通过引入第二个参数化的编解码对和一个额外的固定编码器，我们发展了三种 VAE 的变种，并使用神经网络学习编码器 / 解码器的参数来比较这些变种与原始 VAE 的 ELBO 逼近。其中一种变化导致了一个 EUBO，可以与原始 ELBO 一起用于研究 VAE 的收敛性。

    Dec, 2022