ICCVMar, 2017

非参数变分自编码器用于分层表示学习

PDF
TL;DR本文提出了一种层次非参数变分自编码器模型，以结合树状结构的贝叶斯非参数先验和变分自编码器来实现无限灵活性的潜在表征空间，进而在视频表征学习上取得更好的效果。
variational autoencodershierarchical nonparametricbayesian methodslatent representation spacevideo representation learning
发现论文，激发创造
  • 树形变分自编码器

    提出了一种新的生成分层聚类模型 ——Tree Variational Autoencoder（TreeVAE），它能够分层地划分样本并发现数据中潜在结构，并利用树形结构中的叶子节点解码器提高了生成性能。TreeVAE 在不同的数据集上表现出了较高的对数似然下界，并且通过条件采样能够从聚类中生成新的样本。

    Jun, 2023

  • Poincaré 变分自编码器实现连续的分层表示

    本文利用 Poincaré 球模型的超几何结构作为潜变量空间，研究了 VAE 在这个空间的运用，该方法在嵌套数据结构下表现出色，并展现了超几何结构对于 VAE 的优越性。

    Jan, 2019

  • 在 VAEs 中学习分层先验

    本文提出了在变分自编码器中学习分层先验以避免标准正态先验分布造成的过度规则化。为了激励数据的具有信息的潜在表示，我们将学习问题公式化为带有约束的优化问题，并将 Taming VAEs 框架扩展为两层分层模型。我们引入了基于图形的插值方法，该方法显示所学习的潜在表示的拓扑结构对应于数据流形的拓扑结构，并呈现了几个例子，在这些例子中，优先考虑的是潜在表示的所需属性，例如平滑性和简单的解释因素。

    May, 2019

  • 一种结构化变分自编码器用于学习稀疏特征的深度层次结构

    本研究提出了一种基于深度潜在随机变量的自然图像生成模型，其采用新型分布称为修正高斯，其中采用类似 spike-and-slab 的稀疏性，保持了有效的随机梯度变分推断的可微性；通过一个结构化后验分布估计函数的近似，提出了一种新型结构化变分近似方法，避免常规均场假设，并保持了生成模型的先验依赖关系，从而实现了具有许多层潜在随机变量的深度模型的联合训练。

    Feb, 2016

  • 对抗变分贝叶斯：统一变分自编码器和生成对抗网络

    介绍了 Adversarial Variational Bayes 技术，可以用于训练具有任意表达力的推理模型的变分自编码器，并将其与生成对抗网络建立起了原则上的联系。

    Jan, 2017

  • 变分自编码器的三种变体

    通过引入第二个参数化的编解码对和一个额外的固定编码器，我们发展了三种 VAE 的变种，并使用神经网络学习编码器 / 解码器的参数来比较这些变种与原始 VAE 的 ELBO 逼近。其中一种变化导致了一个 EUBO，可以与原始 ELBO 一起用于研究 VAE 的收敛性。

    Dec, 2022

  • 分层量化自编码器

    该研究使用层次 VQ-VAE 近似压缩图像，同时保持感知质量和抽象特征。在 CelebA 和 MNIST 数据集上进行了定性和定量评估。

    Feb, 2020

  • 相关变分自编码器

    该研究提出了基于相关变量分布的 CVAEs 方法来学习高维数据的潜在表示。通过对无向相关图的所有最大有向无环子图的可计算较低限的平均值来解决相关先验带来的不可计算问题，证明了该方法在公共基准评级数据集的匹配和链接预测，以及合成数据集上的谱聚类中的有效性。

    May, 2019

  • 使用变分自编码器生成可解释的表示

    本文提出了一个框架，利用结构化图形模型在变分自动编码器（VAEs）的编码器中导出可解释的表达，使得在给定图形模型的结构限制下执行推理，并使用深度生成模型处理高维度的杂乱领域变得更容易。同时在无监督和半监督的情况下，通过变分目标进行端对端的学习。

    Nov, 2016

  • 重新审视结构化变分自编码器

    通过现代机器学习工具来实现硬件加速、并行化和自动微分的消息传递算法，探讨并展示了 SVAE 模型的优势，从而表明现在是重新审视结构化变分自编码器的时候了。

    May, 2023