利用解码器不确定性提高 VAE 潜空间中的黑盒优化
深度学习方法在计算神经科学中作为建模工具变得越来越重要，本文系统地研究了变分自编码器的不确定性表示，提出了一种新的方法解释偏离变分自编码器 (EA-VAEs)，并发现它在各种情况下能够产生有意义的不确定性报告，可在计算神经科学的感知模型和计算机视觉的推理工具中发挥作用。
Apr, 2024
本文提出了一种新的变分自编码模型优化标准，推广了标准的证据下界，提供了它们恢复数据分布和学习潜在特征的条件，并在形式上证明了通常出现模糊样本和无信息潜在特征等常见问题的条件。基于这些新的见解，我们提出了一种新的序列化 VAE 模型，可以基于像素逐一重构损失在 LSUN 图像数据集上生成清晰的样本，并提出一种旨在鼓励无监督学习信息潜在特征的优化标准。
Feb, 2017
通过性能反馈在主动学习环境中，我们提出了一种预先训练的变分自动编码器 (VAE) 基因设计模型的模型不确定性引导微调的新方法，通过量化生成模型中的模型不确定性，扩展了有效分子的空间，并利用多样性解码器探索生成优化的多个高性能模型，实验结果表明，我们的不确定性引导微调方法在六个目标分子属性上始终优于原始预训练模型。
May, 2024
提出一种基于正则化的确定性编码器和解码器的生成模型框架，替换 VAEs 中的随机性来达到优化潜在空间的目的，并通过引入后验密度估计步骤来生成具有相当或更好质量的样本。
Mar, 2019
本文针对 VAE 模型中的超参数调整问题，研究了校准解码器的作用和对 VAE 性能的影响，提出了一种简单但有效的高斯解码器改进方法。通过对多种数据集和模型的综合分析，我们得出了使用校准解码器进行 VAE 训练的建议。
Jun, 2020
本文提出使用提议的退火重要性抽样方法对基于解码器的模型进行对数似然评估，并使用双向蒙特卡罗验证其精度，分析了解码器模型的性能，现有对数似然估计器的有效性，过拟合程度以及这些模型错过数据分布的重要模式情况。
Nov, 2016
本文提出了 Coordinate Quantization Variational Autoencoder（CQ-VAE 这个强大的生成模型，可以学习模糊性的表示并生成概率性输出来对医疗应用进行诊断的不确定性评估，同时能够在确定性路径上输出最佳估计，并在腰椎间盘图像数据集上进行了应用验证。
Oct, 2020
研究发现将先前仅仅被孤立考虑的两个经验法则相结合可以避免后验坍塌，提高了模型的性能表现。虽然该方法的 ELBO（证据下界）较差，但在保留隐变量的能力及对训练数据分布的建模方面表现更好，说明传统的 VAE 目标函数可能无法同时平衡表示学习和数据分布建模。
Sep, 2019
本研究分析了 Variational Autoencoders 的近似误差，探讨了该误差的多种可能性并找到了其一致子集。重要的是，此子集无法通过考虑更深的编码器 / 解码器网络进行扩大，也无法降低相应误差。
Feb, 2021
该研究利用基于期望最大化算法的训练技术提高 VQ-VAE 模型在 CIFAR-10 数据集上的图像生成结果，并通过知识蒸馏技术，开发出一种非自回归机器翻译模型，其准确性几乎与强贪婪自回归基线变压器相当，但在推理速度上快 3.3 倍。
May, 2018