ICLRMar, 2018

变分自编码器中学习潜在超结构用于深层多维聚类

PDF
TL;DR我们研究了一种变分自编码器的变体，其中顶层离散的潜变量是一个超结构。我们的超结构是多个超级潜变量的树结构，并且可以自动从数据中学习。与以往的深度学习方法不同，LTVAE 可以生成多个数据分区，每个分区都由一个超级潜变量给出。这是由于高维数据通常具有许多不同的自然方面，可以用多种方式进行有意义的划分。
发现论文，激发创造
  • 树形变分自编码器

    提出了一种新的生成分层聚类模型 ——Tree Variational Autoencoder（TreeVAE），它能够分层地划分样本并发现数据中潜在结构，并利用树形结构中的叶子节点解码器提高了生成性能。TreeVAE 在不同的数据集上表现出了较高的对数似然下界，并且通过条件采样能够从聚类中生成新的样本。

    Jun, 2023

  • 变分自编码器中学习潜在子空间

    本文提出了一种基于变分自编码器的生成模型，使用互信息最小化学习与每个标签相关的低维潜空间，并展示了其在特征操作上的实用性。

    Dec, 2018

  • 一种结构化变分自编码器用于学习稀疏特征的深度层次结构

    本研究提出了一种基于深度潜在随机变量的自然图像生成模型，其采用新型分布称为修正高斯，其中采用类似 spike-and-slab 的稀疏性，保持了有效的随机梯度变分推断的可微性；通过一个结构化后验分布估计函数的近似，提出了一种新型结构化变分近似方法，避免常规均场假设，并保持了生成模型的先验依赖关系，从而实现了具有许多层潜在随机变量的深度模型的联合训练。

    Feb, 2016

  • Poincaré 变分自编码器实现连续的分层表示

    本文利用 Poincaré 球模型的超几何结构作为潜变量空间，研究了 VAE 在这个空间的运用，该方法在嵌套数据结构下表现出色，并展现了超几何结构对于 VAE 的优越性。

    Jan, 2019

  • 基于多级潜变量模型生成长且连贯的文本

    本文研究了多层结构的变分自编码器模型，采用层级随机层和多层解码器结构生成更具信息的潜变量编码，同时生成中间的句子表示作为高层计划向量，实验结果表明多层结构能够生成更加连贯且不重复的长文本，并进一步缓解了后验坍缩问题。

    Feb, 2019

  • 非参数变分自编码器用于分层表示学习

    本文提出了一种层次非参数变分自编码器模型，以结合树状结构的贝叶斯非参数先验和变分自编码器来实现无限灵活性的潜在表征空间，进而在视频表征学习上取得更好的效果。

    Mar, 2017

  • 多层变分自编码器：从分组观察中学习解耦表示

    提出了 Multi-Level Variational Autoencoder 用于学习语义上相关并解耦的潜变量表示，将工作集中在组别和个体水平上的同时保持高效的测试时推理，以便对相关变量进行无监督控制。

    May, 2017

  • 具有学习潜在结构的变分自编码器

    本文提出了一种新型的 Variational Autoencoder with Learned Latent Structure（VAELLS）模型，该模型融合了可学习的流形模型，使得先验分布与数据流形匹配，并允许定义潜在空间中的生成变换路径，同时尝试在已知潜在结构的情况下进行验证，并展示了该模型在现实世界数据集上的性能。

    Jun, 2020

  • 半监督深度生成模型学习分离表示

    该研究提出了一种使用图形模型和深度神经网络架构的变分自编码器，能够学习到不同的表示形式，进一步实现半监督学习，其生成的能力和区分能力也得到了充分验证。

    Jun, 2017

  • 具结构离散表示的深度生成模型的无偏学习

    通过将图形模型与深度学习架构组合，我们学习具有两种框架优势的生成模型。我们提出了学习 SVAE 的新算法，并首次证明了 SVAE 处理丢失数据时处理多模态的能力。这些优化创新使 SVAE 能够通过梯度下降法进行学习。

    Jun, 2023