Apr, 2023

CF-VAE：利用VAE和因果流进行因果分离表示学习

HTML
PDF
TL;DR本文提出了一种结合因果结构信息的新型流模型——因果流，设计了 CF-VAE 模型，通过利用因果流增强 VAE 编码器的解缠结能力。进一步引入地面真实因素的监督，证明了该模型的解纠缠可识别性。在合成和真实数据集上的实验结果表明，CF-VAE 可以实现因果解纠缠，并进行干预实验。此外，CF-VAE 在下游任务上表现出优异的性能，并有潜力学习因果因素之间的结构。
发现论文，激发创造
  • 理解 $β$-VAE 中的解缠

    本文以率失真理论为角度，探讨优化 $eta$-VAE 的修正ELBO下界时，在训练过程中的潜在编码信息容量逐渐增加的情况下，哪些情况下会出现与数据生成因素相对应的编码表示，我们基于这些洞见提出了一种修改 $eta$-VAE 训练机制的方法，可以在不降低重构精度的情况下有力地学习到解缠合表示。

    Apr, 2018

  • 引导式变分自编码器用于分离式学习

    设计一种算法Guided-VAE，通过提供信号来实现VAE的潜在编码/嵌入，以学习可控的生成模型，该算法在表示学习，合成/采样改进，分类中取得了更好的效果

    Apr, 2020

  • CausalVAE: 变分自编码器中的结构因果解缠

    本文提出了一种基于因果结构的VAE算法CausalVAE，使用因果层将独立外生因素转化为内生因果因素，实现了因果因素的自动发掘和可解释性，实验结果表明CausalVAE提出的因果表示能够在多个数据集上实现对真实因果结构的恢复，同时可以生成对因果结构产生干预的对事实数据。

    Apr, 2020

  • 弱监督下解缠绕的生成因果表征学习

    本文提出一种名为DEAR的去混合生成因果表征学习方法，通过使用结构性因果模型作为先验分布和适当的GAN算法，利用监督信息对因果结构进行学习，从而实现因果可控生成并提高下游任务的样本效率。

    Oct, 2020

  • 基于潜变量交换的弱监督学习解耦表示的 SW-VAE 模型

    提出一种名为SW-VAE的新型弱监督训练方法，该方法利用数据集的生成因素将输入观测对作为监督信号进行训练，并且引入了逐渐增加学习难度的策略来平滑训练过程。通过多个数据集的实验证明，该模型在表示分离任务上显示出明显的优于最先进方法的改进。

    Sep, 2022

  • 通过稀疏因果干预分离潜在表示

    通过将因果关系理论与矢量量化变分自编码器相结合，我们提出了一种新的基于因果动态的去纠缠方法，将量化向量视为因果变量并将其链接在因果图中，通过对因果图进行因果干预，引发影响图像中唯一变化因素的原子转换。同时，我们通过引入一个新的行动检索任务来测试我们的模型。我们在标准的合成和真实世界的去纠缠数据集上进行了测试，结果表明它能够有效地解缠图像变化因素并对图像的高级语义属性进行精确干预，而不影响其质量，即使在不均衡的数据分布下也是如此。

    Feb, 2023

  • 利用独立因果机制原则学习因果分离表示

    本文提出了一种基于独立因果机制的因果解缠结的新概念，并提出了ICM-VAE框架来学习因果解缠结表示，使用可学习的基于流的差分同胚函数将噪声变量映射到潜在因果变量，同时为了促进因果因素的解缠结，提出了因果解缠结先验。在相对温和的条件下，我们提供了理论结果，显示出因果因子和机制的可识别性。经验证明，该框架引导出高度解缠结的因果因子，提高了干预的稳健性，并且与因果生成相容。

    Jun, 2023

  • 无概念因果分解变分图自编码器

    提出了一种无监督学习的解决方案，称为无概念因果分解(disentanglement)，通过在可观测数据中直接学习概念结构，提出了CCVGAE和CC-Meta-Graph模型，并在AUC方面分别取得了高达29%和11%的绝对改进。

    Nov, 2023

  • 因子量化变分自编码器的解耦

    本研究解决了解耦表示学习中的真相信息缺失问题，提出了一种通过离散变分自编码器（VAE）来实现解耦的新方法。研究表明，结合全局代码簿的标量量化和总相关优化项能够显著提升解耦效果与重构性能，FactorQVAE方法在两个解耦指标上优于以往的解耦方法，具有重要的应用潜力。

    Sep, 2024

  • α-TCVAE：解耦与多样性之间的关系

    本研究解决了解耦表示在生成建模中的有限适用性问题，通过引入一种新颖的总相关性下界（TC），优化变分自编码器（α-TCVAE），以最大化解耦和潜在变量的信息性。研究表明，α-TCVAE 在复杂数据集上能够学习到更加解耦的表示，并生成更多样化的观察结果，为机器学习领域提供了更好的生成能力和应用潜力。

    Nov, 2024