使用条件变分自编码器学习流形维度

Feb, 2023

使用条件变分自编码器学习流形维度

Learning Manifold Dimensions with Conditional Variational Autoencoders

Yijia Zheng, Tong He, Yixuan Qiu, David Wipf

TL;DR研究证明变分自编码器和其条件扩展在多个领域可以达到最新成果，小样本图像中具有低维曼诺尔性质的特殊数据，其复杂行为仍不为人所知晓，本文从数据分布的角度出发，通过实验证明变分自编码器的全局最小值可以学习到正确的曼诺尔维度，在这个前提下讨论了更普适的条件扩展以适应不同数据分布的情况。

Abstract

Although the variational autoencoder (VAE) and its conditional extension (CVAE) are capable of state-of-the-art results across multiple domains, their precise behavior is still not fully understood, particularly

variational autoencoder manifold learning dimensionality conditional extension data distribution

发现论文，激发创造

具有学习潜在结构的变分自编码器

本文提出了一种新型的 Variational Autoencoder with Learned Latent Structure（VAELLS）模型，该模型融合了可学习的流形模型，使得先验分布与数据流形匹配，并允许定义潜在空间中的生成变换路径，同时尝试在已知潜在结构的情况下进行验证，并展示了该模型在现实世界数据集上的性能。

Jun, 2020

低维数据存在下的变分自编码器：优化空间及内在偏向

本文研究了变分自编码器的训练问题，提出了一种二阶段的训练算法，证明了该算法可以在低维流形上训练，并且得到的生成器可以恰好支持原本的低维流形，且是由于训练算法的隐式偏差而非 VAE 损失本身的原因。

Dec, 2021

同胚变分自编码的探索

本文研究了流形值潜变量的使用，特别是连续可微的对称群（李群）的情况，展示了如何通过将再参数化技巧扩展到紧连李群来构造带有李群潜变量的变分自编码器，并通过实验展示了匹配潜在数据流形拓扑结构的流形值潜变量对于保留拓扑结构和学习良好的潜空间至关重要。

Jul, 2018

VTAE: 变分转换自编码器与流形学习

提出了一种变分空间转换自编码器（VTAE），通过在 Riemann 流形上最小化测地线来改善表征学习，并提高计算机视觉任务的预测准确性和适用性，包括图像插值和重构。

Apr, 2023

变分自编码器中学习潜在子空间

本文提出了一种基于变分自编码器的生成模型，使用互信息最小化学习与每个标签相关的低维潜空间，并展示了其在特征操作上的实用性。

Dec, 2018

具随机游走采样的变分扩散自编码器

本文提出一种方法，将变分自编码器和生成对抗网络与扩散映射相结合，创建了一个继承扩散映射渐近保证的生成模型，同时保持深度模型的可扩展性。

May, 2019

使用 trVAE 的无配对数据条件外样本生成

本研究通过使用最大平均离差（MMD）来匹配不同条件下的生成模型的分布，从而对条件变分自编码器（CVAE）进行改进，提出了 Transformer VAE（trVAE）的架构，并在高维图像和表格数据上展示了比现有方法更高的鲁棒性和准确性。

Oct, 2019

用 VAEs 学习平坦的潜在流形

本研究提出了一种基于 Riemannian geometry 的扩展的变分自编码器框架，可以学习平面的潜在流形，通过约束优化问题和使用更具表达力的层次先验代替紧凑先验，使得在保留直线状方法的计算效率的同时，能够在视频跟踪基准测试中接近监督学习方法的性能。

Feb, 2020

基于变分自编码模型的深入理解

本文提出了一种新的变分自编码模型优化标准，推广了标准的证据下界，提供了它们恢复数据分布和学习潜在特征的条件，并在形式上证明了通常出现模糊样本和无信息潜在特征等常见问题的条件。基于这些新的见解，我们提出了一种新的序列化 VAE 模型，可以基于像素逐一重构损失在 LSUN 图像数据集上生成清晰的样本，并提出一种旨在鼓励无监督学习信息潜在特征的优化标准。

Feb, 2017

变分自编码器中潜空间的自适应压缩

这篇文章介绍了一种对变分自动编码器 (VAEs) 进行简单扩展的方法，通过渐进性减小潜空间大小来自动确定训练过程中的最佳潜空间大小，并将该方法与传统的超参数网格搜索进行比较，结果表明其速度显著更快，且在四个图像数据集上实现了最佳的维度。此外，还证明了我们方法的最终性能与从头开始训练的最佳潜空间大小相当，因此可能作为一种便利的替代方法。

Dec, 2023