May, 2024

Epanechnikov 变分自编码器

PDF
TL;DR本文通过将核密度估计应用于变分自动编码器 (VAEs)，近似后验概率分布，推导出极大似然下界 (ELBO) 中 KL 散度的上界，展示了 Epanechnikov 核在最小化 KL 散度上界方面的优势。在 MNIST、Fashion-MNIST、CIFAR-10 和 CelebA 等基准数据集上的实验证明了 Epanechnikov 变分自动编码器 (EVAE) 在重建图像质量方面的卓越性能。
variational autoencoderskernel density estimationsposterior approximationkullback-leibler divergenceepanechnikov variational autoencoder
发现论文，激发创造
  • GAMIX-VAE: 基于高斯混合后验的 VAE

    该论文探讨了变分自编码器（VAEs）的一个微妙方面，着重解释了 Kullback Leibler（KL）散度，这是 Evidence Lower Bound（ELBO）中的一个关键组成部分，用于平衡重构准确性和正则化之间的权衡。通过使用混合高斯后验概率重新定义 ELBO，引入正则化项以防止方差崩溃，并使用 PatchGAN 鉴别器增强纹理真实性，该方法在实现细节中采用了 ResNetV2 架构用于编码器和解码器。实验证明其能够生成逼真的人脸，为增强基于 VAE 的生成模型提供了有希望的解决方案。

    Sep, 2023

  • 带隐式最优先验的变分自编码器

    该论文介绍的方法通过密度比技巧来达到 KL 散度的隐式计算，在不模拟聚合后验的情况下，可以使用最优先验，从而在各种数据集上实现高密度估计性能。

    Sep, 2018

  • 在变分自动编码器中匹配聚合后验概率

    通过改进目标函数，提出了新的自动编码器模型 AVAE，利用 KDE 来建模高维度下的边缘后验分布，通过多个基准数据集的实证评估验证了 AVAE 相对于 SOTA 方法的有效性。

    Nov, 2023

  • 批归一化推理网络防止 KL 消失

    该研究论文提出 Batch Normalized-VAE (BN-VAE) 方法可以避免 Variational Autoencoder（VAE）寻找 “后验塌缩”（posterior collapse）的局部最优解，该方法不需要引入新的模型组件或修改目标，可有效地、高效地避免后验塌缩，尤其在语言建模、文本分类和对话生成等任务上表现优异，且与 VAE 训练时间几乎相同。

    Apr, 2020

  • 哈密顿变分自编码器

    利用 Hamiltonian Jacobian Estimation 实现了一个新的 Hamiltonian Variational Auto-Encoder（HVAE）模型，可以用于高效地进行变分自编码器模型训练，并构建目标受控的归一化流。

    May, 2018

  • Levenshtein 变分自编码器用于防止后坍塌

    Levenstein VAE 提出了一种简单易优化且避免后验坍塌的新目标，通过在生成的序列的每个时间步中根据 Levenshtein 距离预测最优延续来生成序列，从而产生比其他方法更具信息化的潜在表达。

    Apr, 2020

  • 变分自编码器的三种变体

    通过引入第二个参数化的编解码对和一个额外的固定编码器，我们发展了三种 VAE 的变种，并使用神经网络学习编码器 / 解码器的参数来比较这些变种与原始 VAE 的 ELBO 逼近。其中一种变化导致了一个 EUBO，可以与原始 ELBO 一起用于研究 VAE 的收敛性。

    Dec, 2022

  • 基于密度间隙正则化的变分自编码器改进

    通过在概率密度差异方面引入新的正则化方法，有效解决了 Variational autoencoders 中的 LATENT REPRESENTATION LEARNING 方面出现的后验崩溃和空洞问题。

    Nov, 2022

  • 非对称变分自编码器

    提出一种利用辅助变量来拓展变分分布家族的框架，通过神经网络来构建复杂的概率混合分布模型，以增强变分推断模型的灵活性和效果，并在密度估计任务上进行了实证评估。

    Nov, 2017

  • 分类问题的变分自编码器核解释与选择

    本研究提出了一种基于变分自编码器卷积编码器生成的特征的概率分类器的核选择方法，可对概率分类器进行特征筛选和内核减少，从而适用于资源受限制的设备。

    Sep, 2022