May, 2021

变分自编码器的一致性正则化

PDF
TL;DR本文提出了一种正则化方法来强制 Variational Auto-Encoder 的一致性，通过最小化 Kullback-Leibler（KL）散度来实现；实验结果表明该方法可以改善学习表征的质量并提高其泛化能力。
variational auto-encoderunsupervised learningconsistency regularizationdeep neural networklatent variable models
发现论文，激发创造
  • 基于密度间隙正则化的变分自编码器改进

    通过在概率密度差异方面引入新的正则化方法，有效解决了 Variational autoencoders 中的 LATENT REPRESENTATION LEARNING 方面出现的后验崩溃和空洞问题。

    Nov, 2022

  • MAE：变分自编码器的相互后验分歧正则化

    本文介绍了一种新的正则化方法 mutual posterior-divergence regularization，用于控制潜空间的几何结构，从而实现有意义的表征学习，并在三个图像基准数据集上取得了良好的表现。

    Jan, 2019

  • 变分自编码器中缺失数据的后验一致性

    通过提出一种正则化方法来提高变分自动编码器（VAEs）对于缺失数据的后验一致性，从而改善了缺失数据条件下的重构质量和利用潜在空间中的不确定性进行下游任务的绩效。

    Oct, 2023

  • 自编码变分自编码器

    本文证明了一种名义上训练过的变分自编码器（VAE）并不一定能够为其能够生成的典型样本便捷地进行推理，介绍了一种自一致性的概念来修正这种行为，并提出了一种基于马尔可夫链的变分近似分布的替代构造方法，具有自监督的后处理环节，可以使其生成的表示更加鲁棒，同时提供了 ColorMnist 和 CelebA 基准数据集上的实验结果。

    Dec, 2020

  • 带隐式最优先验的变分自编码器

    该论文介绍的方法通过密度比技巧来达到 KL 散度的隐式计算，在不模拟聚合后验的情况下，可以使用最优先验，从而在各种数据集上实现高密度估计性能。

    Sep, 2018

  • 变分自编码器中落后的推断网络和后验崩溃

    本文研究了变分自编码器 (VAE) 在训练时出现的后验崩溃现象。针对训练动态的观察，我们提出了一种极其简单的改进 VAE 的训练方法，避免了之前工作中普遍存在的后验崩溃问题，并取得了比基准模型更优的实验结果。

    Jan, 2019

  • 变分自编码器的三种变体

    通过引入第二个参数化的编解码对和一个额外的固定编码器，我们发展了三种 VAE 的变种，并使用神经网络学习编码器 / 解码器的参数来比较这些变种与原始 VAE 的 ELBO 逼近。其中一种变化导致了一个 EUBO，可以与原始 ELBO 一起用于研究 VAE 的收敛性。

    Dec, 2022

  • 批归一化推理网络防止 KL 消失

    该研究论文提出 Batch Normalized-VAE (BN-VAE) 方法可以避免 Variational Autoencoder（VAE）寻找 “后验塌缩”（posterior collapse）的局部最优解，该方法不需要引入新的模型组件或修改目标，可有效地、高效地避免后验塌缩，尤其在语言建模、文本分类和对话生成等任务上表现优异，且与 VAE 训练时间几乎相同。

    Apr, 2020

  • 深度特征一致性变分自编码器

    本研究提出了一种新颖的方法来构建变分自编码器 (Variational Autoencoder，VAE), 该方法通过 enforced deep feature consistency 的方式替代了传统的像素级别的损失，以充分保留输入数据的空间相关性，产生更自然的视觉效果和更好的感知质量。 对 CelebA 数据集的测试结果表明，我们模型能够优于其他文献中的方法，并且还能够产生能捕捉面部表情语义信息的潜在向量，这些向量可用于实现面部属性预测的最新性能。

    Oct, 2016

  • Levenshtein 变分自编码器用于防止后坍塌

    Levenstein VAE 提出了一种简单易优化且避免后验坍塌的新目标，通过在生成的序列的每个时间步中根据 Levenshtein 距离预测最优延续来生成序列，从而产生比其他方法更具信息化的潜在表达。

    Apr, 2020