本文研究变分自编码器(VAE)的先验分布和后验分布。首先,我们将VAE的学习分解为逐层密度估计,并认为灵活的先验分布有益于样本生成和推断。其次,我们分析了反自回归流的族群(inverse AF),并表明在进一步改进后,反自回归流可用作对任何复杂后验的通用逼近。我们提出了一种统一的方法来参数化VAE,而无需在潜在实空间中使用因子高斯分布。
Oct, 2017
利用 Hamiltonian Jacobian Estimation 实现了一个新的 Hamiltonian Variational Auto-Encoder(HVAE)模型,可以用于高效地进行变分自编码器模型训练,并构建目标受控的归一化流。
May, 2018
该论文提出了两种可用于变分推断和特别是变分自编码器训练的基于Kullback-Leibler和Rényi分歧的对数似然的新界限,这受到在连续数据集上训练VAE时遇到的困难的启发,同时避免了给数据添加任何额外噪音来源的必要,具有数值稳定的训练程序。
Jul, 2018
该论文介绍的方法通过密度比技巧来达到KL散度的隐式计算,在不模拟聚合后验的情况下,可以使用最优先验,从而在各种数据集上实现高密度估计性能。
Sep, 2018
本文介绍了一种新的正则化方法 mutual posterior-divergence regularization,用于控制潜空间的几何结构,从而实现有意义的表征学习,并在三个图像基准数据集上取得了良好的表现。
Jan, 2019
通过在概率密度差异方面引入新的正则化方法,有效解决了 Variational autoencoders 中的 LATENT REPRESENTATION LEARNING 方面出现的后验崩溃和空洞问题。
Nov, 2022
本文介绍了一种新的变分自编码器(VAE)的重构项,它特别惩罚生成模糊图像的能力,同时仍然最大化建模分布下的ELBO。在三个不同的数据集上展示了该损失函数的潜力,优于VAE的几种最近提出的重建损失。
Apr, 2023
该论文探讨了变分自编码器(VAEs)的一个微妙方面,着重解释了Kullback Leibler(KL)散度,这是Evidence Lower Bound(ELBO)中的一个关键组成部分,用于平衡重构准确性和正则化之间的权衡。通过使用混合高斯后验概率重新定义ELBO,引入正则化项以防止方差崩溃,并使用PatchGAN鉴别器增强纹理真实性,该方法在实现细节中采用了ResNetV2架构用于编码器和解码器。实验证明其能够生成逼真的人脸,为增强基于VAE的生成模型提供了有希望的解决方案。
Sep, 2023
通过改进目标函数,提出了新的自动编码器模型AVAE,利用KDE来建模高维度下的边缘后验分布,通过多个基准数据集的实证评估验证了AVAE相对于SOTA方法的有效性。
Nov, 2023
这项工作介绍了熵分解变分自编码器(ED-VAE),它是对ELBO的新的重新制定,明确包括熵和交叉熵组件。通过提供对潜空间的编码和正则化的更详细控制,ED-VAE不仅提高了可解释性,还有效捕捉到潜在变量和观测数据之间的复杂相互作用,从而提高了生成性能。
Jul, 2024