本文研究了对输入和隐层同时进行噪声注入的变分自编码器，提出了一种改进的目标函数。当输入数据有噪声时，传统的变分自编码器的训练方法不可行，这里提出了一种可行的训练方法。实验结果表明，在MNIST和Frey Face数据集上，提出的去噪变分自编码器（DVAE）的平均对数似然比VAE和重要性加权自编码器更好。
Nov, 2015
本文介绍了一种对变分推断的鲁棒修正方法，此方法适用于大多数训练集样本为随机噪声对象的情况，并在MNIST和OMNIGLOT合成数据集上展示了比证据下限更出色的目标。在原始的MNIST和OMNIGLOT数据集上，我们还观察到相对于非鲁棒证据的下限的小幅提高。
Nov, 2016
本文考虑了基于NCE的条件模型估计，通过分析两种条件模型变体：一种基于分类目标，另一种基于排序目标，证明了基于排序的NCE变体在较弱的假设下提供了一致的参数估计，同时分析了两种方法的统计效率，并在合成数据和语言建模实验中展示了两种方法的效果和权衡。
Sep, 2018
本文介绍了一种基于变分噪声对比估计的方法，能够应用于未标准化潜变量模型的参数估计和后验推理，提高了建模的灵活性，并且可应用于不完整数据估计的实际问题。
Oct, 2018
介绍了一种从过去和现在的变量中获取信息进行动态潜变量模型变分推断的通用方法，称为变分滤波EM算法；通过迭代的分块推断模型，实现了计算效率较高的算法并通过多个深度动态潜变量模型的实验进行了验证。
Nov, 2018
该论文研究通过因式分解先验分布的方法实现对观察变量和潜在变量的真实联合分布的识别，从而实现了对深度潜在变量模型的拆分，论文中提出了一种新的非线性独立成分分析框架，该框架同时适用于具有噪音、欠完备或离散观测的情况。
Jul, 2019
本文理论上探索了几种流行的变分自编码模型，在启发于噪声对比评估算法的基础上，提出了一种新的算法 NC-VAE，在数据重构能力上不会出现后验崩溃问题，提供了新的下界，并在图像和文本数据集上进行了实证展示。
针对变分自编码器的先验洞问题，我们提出了一种能源化先验，通过基础先验分布和重新加权因子的乘积来定义，以使基础先验更接近集体后验，并通过噪声对比估计来训练重新加权因子，实验证明此方法可以大幅提高MNIST、CIFAR-10、CelebA 64和CelebA HQ 256数据集上的最先进VAE的生成性能。
Oct, 2020
本文深入探讨了概率分布和变分自编码器的理论，并总结当前研究现状；适合机器学习初学者了解概率分布学习中的核心思想及其在深度学习领域的应用，并为此子领域的新参与者提供了一个适宜的入门机会。
Jun, 2022
本研究解决了未归一化分布学习方法之间缺乏统一视角的问题。通过噪声对比估计（NCE），提出了对多种方法的统一分析，揭示了现有估计量的新见解。对于指数族分布，我们在一些新的正则性假设下建立了所提估计量的有限样本收敛速率。
Sep, 2024