通过交替解缠学习数据的离散和连续因子
本文提出一个基于变分推理的方法,从大量未标记的观察中推断分离的潜在因素,通过对所观察数据的近似后验期望引入正则化项,从而鼓励分离;同时,提出了一种新的分离度量,与解码器输出中观察到的定性分离更加一致,经实验证明,在分离度和数据似然(重建质量)方面存在显著的改进。
Nov, 2017
我们提出了一种基于Total Correlation Variational Autoencoder的无监督学习方法,用以生成disentangled representations,并介绍了一种分类器无关的disentanglement度量,称为mutual information gap (MIG)。通过对restricted和non-restricted实验结果的定量和定性分析,我们展示了latent variables model 的total correlation和disentanglement之间的强关联关系。
Feb, 2018
我们提出了一种被称为FactorVAE的方法,它可以无监督地学习从独立变化因素生成的数据中发现因素解耦的表示,并通过提供更好的解耦和重构质量之间的平衡得到改进。此外,我们还介绍了一个新的解耦评估度量,并阐明了常用的解耦评估度量存在的问题。
Feb, 2018
本文提出了一种框架来无监督地学习清晰而可解释的连续和离散化的表示形式,通过增加变分自动编码机的连续潜在分布,并控制每个潜在单元中编码的信息量,展示了如何自动地从数据中发现连续和分类变化因素。实验结果显示,该框架在各种数据集上对连续和离散的生成因素进行了区分,并在离散生成因素突出时优于当前的 disentangling 方法。
Mar, 2018
本文提出了一种使用弱监督来将潜在空间分离成两个互补子空间的新架构,使用变分自编码器中的循环一致性,获得鼓舞人心的结果,并与利用对抗训练的最近作品进行了比较。
Apr, 2018
本文提出了VAEs的解耦合方法,即分解潜在表示,通过先验中有结构的聚合编码和适当的重叠来满足。这种分解不仅能实现特定的解耦,还可通过引入先验来实现其他更丰富类型的约束,并通过控制先验和潜在空间分布来改善解耦效果。此外,还介绍了另一套训练目标和先验选择来控制分解和解耦,并对β-VAE在控制潜在空间重叠方面的性质进行了分析。
Dec, 2018
我们提出了一种新颖的基于VAE的深度自编码器模型,可以完全无监督地学习分解的潜在表征,具有识别所有有意义的变异源及其基数的能力,该模型通过引入所谓的关联指标变量并联合VAE参数进行自动学习,有效地将总相关损失集中到相关因素上,我们的模型在许多具有挑战性的基准数据集上胜过了现有方法。
Feb, 2019
提出了一种名为Bayes-Factor-VAEs的新型层级贝叶斯深度自编码器模型,使用长尾分布对数据的可变因素进行因子分离,可以在几个基准测试中量化和定性地优于现有方法。
Sep, 2019
提出了一种称为“机制稀疏正则化”的解缠方法,通过同时学习潜在因素和解释它们的稀疏因果图模型来诱导解缠,展示了该方法的可行性和其所依赖的假设,并提出了基于变分自动编码器和稀疏约束的估计过程,并在多个合成数据集上进行了验证。
Jan, 2024
本研究解决了解耦表示学习中的真相信息缺失问题,提出了一种通过离散变分自编码器(VAE)来实现解耦的新方法。研究表明,结合全局代码簿的标量量化和总相关优化项能够显著提升解耦效果与重构性能,FactorQVAE方法在两个解耦指标上优于以往的解耦方法,具有重要的应用潜力。
Sep, 2024