本文提出了一个框架,利用结构化图形模型在变分自动编码器(VAEs)的编码器中导出可解释的表达,使得在给定图形模型的结构限制下执行推理,并使用深度生成模型处理高维度的杂乱领域变得更容易。同时在无监督和半监督的情况下,通过变分目标进行端对端的学习。
Nov, 2016
本文介绍了一种基于深度生成模型的架构,该架构在训练过程中使用多层的潜在变量,并且在所有潜在变量和输出之间包括确定性路径,以及提供了一组更丰富的连接,这些连接在推理和生成计算之间实现了更有效的信息通信。我们在重构分布中引入了轻量级自回归模型以提高自然图像的性能。实验表明,我们的方法在标准图像建模基准测试中达到了最先进的性能,并且在没有标签信息的情况下可以暴露潜在的类结构,同时可以提供自然图像中被遮挡区域的令人信服的估计。
Dec, 2016
介绍了 Adversarial Variational Bayes 技术,可以用于训练具有任意表达力的推理模型的变分自编码器,并将其与生成对抗网络建立起了原则上的联系。
Jan, 2017
本文提出了一种层次非参数变分自编码器模型,以结合树状结构的贝叶斯非参数先验和变分自编码器来实现无限灵活性的潜在表征空间,进而在视频表征学习上取得更好的效果。
Mar, 2017
本文讨论了深度非监督学习中最大化证据下限(ELBO)的训练方法,并推导了输入与潜变量之间互信息的下限和上限,进而通过率失真曲线描述了压缩和重构准确性之间的平衡,并提出了一个新的方法来避免强大的随机解码器忽略它们的潜变量。
Nov, 2017
文中提出了一种新的基于变分自编码器的概率生成模型,该模型使用新颖的方法确定潜在变量先验和强制序数单位,并用于有监督、无监督和半监督学习以及标称和序数分类,实验结果表明该模型在这两方面的分类任务中表现较优。
Dec, 2018
该论文介绍了变分自编码器及其重要扩展,它们提供了学习深度潜变量模型及对应推理模型的原则框架。
Jun, 2019
本文深入探讨了概率分布和变分自编码器的理论,并总结当前研究现状;适合机器学习初学者了解概率分布学习中的核心思想及其在深度学习领域的应用,并为此子领域的新参与者提供了一个适宜的入门机会。
Jun, 2022
此论文研究了层次化变分自编码器中速率/失真权衡的问题,并提出了一个通用类别的推理模型,可以将解码速度分成各层的贡献,从而可以独立调节。我们根据下游任务的理论性能作为各个层速率的函数推导了理论界限,并在大规模实验中验证了我们的理论发现,这为从事者在一个给定应用程序中目标速率空间提供了指导。
Feb, 2023
通过将图形模型与深度学习架构组合,我们学习具有两种框架优势的生成模型。我们提出了学习SVAE的新算法,并首次证明了SVAE处理丢失数据时处理多模态的能力。这些优化创新使SVAE能够通过梯度下降法进行学习。
Jun, 2023