Jul, 2024

统一转换：变分自编码器中的潜在表示优化

PDF
TL;DR通过引入一种新颖的可适应三阶段均匀变换（UT）模块，解决变分自编码器中的潜在空间不规则分布问题，该模块包括高斯核密度估计（G-KDE）聚类、非参数高斯混合建模（GM）和概率积分变换（PIT），通过将不规则分布重新配置成潜在空间中的均匀分布，显著增强了潜在表示的分离性和可解释性，克服了传统 VAE 模型在捕捉复杂数据结构方面的局限性。实证评估表明，我们提出的 UT 模块在改善标准数据集（dSprites 和 MNIST）上的分离度度量方面非常有效。研究结果为推进表示学习技术指明了有希望的方向，并为将该框架扩展到更复杂数据集和下游任务的未来研究提供了启示。
发现论文，激发创造
  • 非线性自编码器

    该研究探讨了使用无香精变换来改进变分自编码器生成模型的表现，使用更具信息量和低方差的后验表示来确保更高质量的重建，并使用 Wasserstein 分布度量来替换 KL 散度以允许更快的后验分布，最后得到了一种竞争力强的确定性采样 VAE，可在脚手架分数上提高性能，训练方差较低。

    Jun, 2023

  • 变分扩散自编码器：具有无条件扩散先验的深层潜变量模型

    采用扩散模型集成编码器和无条件扩散模型的得分函数，消除了 VAE 图像模糊的问题，并显著提高了性能。

    Apr, 2023

  • MAE：变分自编码器的相互后验分歧正则化

    本文介绍了一种新的正则化方法 mutual posterior-divergence regularization，用于控制潜空间的几何结构，从而实现有意义的表征学习，并在三个图像基准数据集上取得了良好的表现。

    Jan, 2019

  • 非参数变分自编码器用于分层表示学习

    本文提出了一种层次非参数变分自编码器模型，以结合树状结构的贝叶斯非参数先验和变分自编码器来实现无限灵活性的潜在表征空间，进而在视频表征学习上取得更好的效果。

    Mar, 2017

  • GAN 的最佳精度

    研究深度生成模型的潜在空间几何结构及优化条件，通过实验提出限制方法，提高生成对抗网络的性能。

    Jul, 2022

  • 变分自编码器的一致性正则化

    本文提出了一种正则化方法来强制 Variational Auto-Encoder 的一致性，通过最小化 Kullback-Leibler（KL）散度来实现；实验结果表明该方法可以改善学习表征的质量并提高其泛化能力。

    May, 2021

  • 通过稳健的变分自编码实现新颖性检测

    本文提出了一种新的鲁棒性较高的异常检测方法，使用改进过的 Variational Autoencoder (VAE) 模型，在处理高度噪声的训练数据时具有较好的鲁棒性，并在标准基准测试中取得了最新的成果。

    Jun, 2020

  • 带隐式最优先验的变分自编码器

    该论文介绍的方法通过密度比技巧来达到 KL 散度的隐式计算，在不模拟聚合后验的情况下，可以使用最优先验，从而在各种数据集上实现高密度估计性能。

    Sep, 2018

  • VTAE: 变分转换自编码器与流形学习

    提出了一种变分空间转换自编码器（VTAE），通过在 Riemann 流形上最小化测地线来改善表征学习，并提高计算机视觉任务的预测准确性和适用性，包括图像插值和重构。

    Apr, 2023

  • 连续潜在空间和变分推断的可学习显式密度

    本文研究变分自编码器（VAE）的先验分布和后验分布。首先，我们将 VAE 的学习分解为逐层密度估计，并认为灵活的先验分布有益于样本生成和推断。其次，我们分析了反自回归流的族群（inverse AF），并表明在进一步改进后，反自回归流可用作对任何复杂后验的通用逼近。我们提出了一种统一的方法来参数化 VAE，而无需在潜在实空间中使用因子高斯分布。

    Oct, 2017