- 时间序列潜在扩散的后稳定性研究
我们分析了隐式扩散在时间序列应用中可能出现的后验坍塌问题，提出了依赖度量的概念，证明了扩散模型中的潜变量在这种情况下失去了对生成过程的控制，并对后验坍塌的原因进行了分析。基于这一分析，我们提出了一个新的框架，解决了这个问题并支持更具表达力的 - 一个用于节点聚类的对比变分图自编码器
改进了 Variational Graph Auto-Encoders 方法以应对节点聚类任务中的挑战，包括推理和生成模型的差异、后验坍缩、特征随机性和特征漂移，并通过对比学习获得更好的聚类结果。
- 在变分自动编码器中匹配聚合后验概率
通过改进目标函数，提出了新的自动编码器模型 AVAE，利用 KDE 来建模高维度下的边缘后验分布，通过多个基准数据集的实证评估验证了 AVAE 相对于 SOTA 方法的有效性。
- 利用规范流和高效训练提升摘要生成
本研究提出了 FlowSUM，一种基于正则化流的变分编码器 - 解码器框架，用于 Transformer-based 摘要。我们的方法解决了变分摘要中两个主要挑战：潜在表示中的语义信息不足和训练期间的后验崩溃。为了解决这些挑战，我们采用正则 - 线性 VAE 中的学习动力学：后验崩塌临界点、多余潜变空间陷阱和 KL 退火加速
在这项研究中，对变分自编码器（VAEs）中的后验折叠问题进行了理论分析，发现学习动态会在输入维度趋近无限大时收敛为确定性过程。此外，研究还表明 VAE 最初学习到纠缠表示，并逐渐获得解耦表示。当超参数 β 超过某一阈值时，无论学习周期如何， - 线性变分自编码器中数据集大小对失真率曲线和后验坍缩阈值的依赖关系
该论文提出了一个闭式表达式，用于评估 Variational Autoencoder（VAE）中的 beta 与数据集大小、后验坍缩以及失真 - 速率曲线之间的关系。结果表明，较大的 beta 值会导致整体化误差的长期台阶，而且在某个临界点 - CR-VAE: 鉴别性正则化用于变分自动编码器以防止后验崩溃
通过引入对比度正则化（CR-VAE）方法，我们扩展了变分自编码器（VAE），使其能够最大化相似视觉输入表示之间的互信息，从而有效避免了后验崩溃现象。在一系列视觉数据集上的评估中，我们证明了 CR-VAE 在防止后验崩溃方面优于其他现有方法。
- 线性条件和分层变分自编码器中的后验坍塌
该论文通过对条件 VAEs 和层级 VAEs 进行理论分析，证明模型中后验崩溃的原因包括条件 VAEs 输入输出之间的相关性和层级 VAEs 学习编码器方差的影响，并在实验中验证了理论结果。
- VAE 是否擅长重构分子图？
研究了多个当代分子生成模型在同等条件下的表现，发现它们的重构准确度令人惊讶地低，并且对于图分子的重构存在后验坍塌现象，但这并不直接导致更好的样本采样或优化性能。
- 通过对译码器网络进行反 Lipschitz 限制来控制后验坍塌
本文针对变分自编码器中的后验崩溃问题，提出了一种基于反 Lipschitz 神经网络的方法，并在多个数值实验中证明了其有效性。
- 后验崩溃和潜变量不可辨识性
本文阐述了变分自编码器中潜变量的后验坍塌现象是由于潜在变量在生成模型中不可识别，提出了一类具有潜变量可识别性的深度生成模型，并证明了它们可以通过概率单射 Brenier maps 实现参数化，在合成和实际数据集上优于现有方法，从而解决了后验 - 基于密度间隙正则化的变分自编码器改进
通过在概率密度差异方面引入新的正则化方法，有效解决了 Variational autoencoders 中的 LATENT REPRESENTATION LEARNING 方面出现的后验崩溃和空洞问题。
- ICML邻居嵌入变分自编码器
本文介绍了变分自编码器（VAE）在 posterior collapse 现象中的缺陷，并提出了一种基于邻居嵌入的 VAE（NE-VAE）模型，它能够防止 posterior collapse 现象的发生，同时保留大部分潜变量维度的活跃性， - ICLRVAE 近似误差: ELBO 与指数族
本研究分析了 Variational Autoencoders 的近似误差，探讨了该误差的多种可能性并找到了其一致子集。重要的是，此子集无法通过考虑更深的编码器 / 解码器网络进行扩大，也无法降低相应误差。
- COLING基于时间步的正则化方法改进变分自编码器用于文本建模
本文提出了一种 TWR-VAE 模型，可以有效地避免 RNN-based VAE 模型在文本生成时出现的 KL loss vanishing 问题，从而提高了文本生成的多样性和效果。
- Levenshtein 变分自编码器用于防止后坍塌
Levenstein VAE 提出了一种简单易优化且避免后验坍塌的新目标，通过在生成的序列的每个时间步中根据 Levenshtein 距离预测最优延续来生成序列，从而产生比其他方法更具信息化的潜在表达。
- ACL批归一化推理网络防止 KL 消失
该研究论文提出 Batch Normalized-VAE (BN-VAE) 方法可以避免 Variational Autoencoder（VAE）寻找 “后验塌缩”（posterior collapse）的局部最优解，该方法不需要引入新的模 - ACL论变分文本建模及其相关领域中编码器 - 解码器不兼容性问题
本文提出 Coupled-VAE 方法，通过 encoder weight sharing 和 decoder signal matching 来改善 variational autoencoders 的编码器和解码器参数，从而避免后验网络 - 论序列 VAE 中后验崩溃和编码器特征分散
论文提出通过 pooling 来增加编码器特征的差异性，以防止 Variational autoencoders 中 posterior collapse 现象的出现，从而在数据对数似然方面取得了显著提高。
- 不要怪 ELBO！线性 VAE 视角下的后验崩溃问题
本文通过对线性变分自编码器和概率 PCA 之间的直接对应关系进行分析，提出了有关后验崩溃的简单而直观的解释。从计算角度出发证明了线性 VAE 的 ELBO 目标不会引入附加的虚假局部极值，进一步证明了使用确切变分推理培训线性 VAE 可以恢