Bayes-Factor-VAE: 基于层级贝叶斯方法的深度自动编码器模型用于因素解缠
我们提出了一种新颖的基于 VAE 的深度自编码器模型,可以完全无监督地学习分解的潜在表征,具有识别所有有意义的变异源及其基数的能力,该模型通过引入所谓的关联指标变量并联合 VAE 参数进行自动学习,有效地将总相关损失集中到相关因素上,我们的模型在许多具有挑战性的基准数据集上胜过了现有方法。
Feb, 2019
我们提出了一种被称为 FactorVAE 的方法,它可以无监督地学习从独立变化因素生成的数据中发现因素解耦的表示,并通过提供更好的解耦和重构质量之间的平衡得到改进。此外,我们还介绍了一个新的解耦评估度量,并阐明了常用的解耦评估度量存在的问题。
Feb, 2018
本文介绍一种基于变分推断的分层生成过程的因式分解分层变分自编码器(FHVAE)模型,该模型在许多语音应用方面已被证明可行,但其原始论文中提出的训练算法不适用于规模更大的数据集。本文提出了一种分层采样训练算法来解决这一问题,并对不同类型的数据集进行了全面评估,证明了我们提出的算法对所有数据集都表现出所需的特性。
Apr, 2018
本文提出了 VAEs 的解耦合方法,即分解潜在表示,通过先验中有结构的聚合编码和适当的重叠来满足。这种分解不仅能实现特定的解耦,还可通过引入先验来实现其他更丰富类型的约束,并通过控制先验和潜在空间分布来改善解耦效果。此外,还介绍了另一套训练目标和先验选择来控制分解和解耦,并对 β-VAE 在控制潜在空间重叠方面的性质进行了分析。
Dec, 2018
本文提出了一种层次非参数变分自编码器模型,以结合树状结构的贝叶斯非参数先验和变分自编码器来实现无限灵活性的潜在表征空间,进而在视频表征学习上取得更好的效果。
Mar, 2017
本研究提出了一种在深度生成模型中实现无监督的解缠结潜在表示的方法,通过在 VAE 的潜在空间中引入反 Wishart 先验来实现潜变量之间的统计独立性,能够在多个数据集上优于 beta-VAE 和与最先进的 FactorVAE 相竞争。
Sep, 2018
本文提出一种分解的分层变分自动编码器,能够在无监督的情况下从序列数据中学习分离和可解释的表征。该模型基于多尺度信息的分层结构,实现了针对不同潜变量集合的序列依赖先验和序列无关先验。通过在两个语音语料库上的实验,表明该模型能够通过操纵不同的潜变量集合来转换说话人或语言内容,并在说话人验证和自动语音识别任务中优于基线模型。
Sep, 2017
用于多模态数据的生成模型可用于识别与观察数据异质性重要决定因素相关的潜在因素。然而,存在一些变量是特定于单个模态的私有变量,而共享变量对解释多模态数据的变异性很重要。本研究探讨了多模态变分自编码器在可靠地实现这种解缠的能力方面,针对一种挑战性的问题设置,其中模态特定变异占主导地位,并提出了一种修改方法,使其对模态特定变异更加鲁棒。我们的发现得到了合成数据和多种真实世界多组学数据集的实验证实支持。
Mar, 2024
本文提出了一种基于因果结构的 VAE 算法 CausalVAE,使用因果层将独立外生因素转化为内生因果因素,实现了因果因素的自动发掘和可解释性,实验结果表明 CausalVAE 提出的因果表示能够在多个数据集上实现对真实因果结构的恢复,同时可以生成对因果结构产生干预的对事实数据。
Apr, 2020