Dec, 2018

反事实推理揭示深度生成模型模块化结构

PDF
TL;DR本研究提出了一种非统计框架，它使用反事实干预来揭示由解缠组成的网络的模块化结构，以便操纵潜在表示以执行有意义和可控的变换。通过在复杂图像数据集上训练各种生成模型进行实验，表明所获得的模块可用于设计目标干预，从而在风格转换和自动评估对环境变化的稳健性等领域开展应用。
deep generative modelsperceptual propertieslatent representationmodular structuretargeted interventions
发现论文，激发创造
  • 反事实生成网络

    通过深度生成建模，我们将图像生成过程分解成独立的因果机制，从而产生反事实图像，提高了模型的新颖性和可解释性。在 MNIST 和 ImageNet 上的实验表明，这些反事实图像能够提高模型的抗干扰性，而且这个模型能在单 GPU 上高效训练。

    Jan, 2021

  • 基于概率因果模型的高保真图像反事实

    本研究提出了一种通用的因果生成建模框架，用于准确估计具有深度结构因果模型的高保真图像反事实情况。

    Jun, 2023

  • 使用生成模型的同胚反事实

    本文提出了一种简单但有效的方法来生成可解释神经网络分类决策的反事实案例，并探索了利用生成模型构建坐标系统的方法。文章分析了生成过程并利用定量和定性措施验证了生成的反事实案例的质量。

    Jun, 2022

  • 从可识别的因果表征到可控的反事实生成：因果生成建模综述

    深度生成模型在数据密度估计和有限样本数据生成方面取得了巨大成功。然而，它们存在无法解释性、倾向于引起虚假相关性和在超出分布范围的外推方面表现不佳等一些基本缺点。为了解决这些挑战，可以将因果性理论融入深度生成建模，结构因果模型可以描述数据生成过程并对系统中的变量之间的复杂因果关系和机制进行建模。因此，结构因果模型可以与深度生成模型自然地结合起来，给深度生成模型提供许多有益的属性，如分布偏移鲁棒性、公平性和互操作性。我们提供了一个因果生成建模的技术调研，将其分为因果表示学习和可控反事实生成方法两类。我们关注因果生成模型在公平性、隐私、超出分布泛化和精准医学方面的基本理论、形式化、缺点、数据集、度量和应用。我们还讨论了该领域未解决的问题和未来研究方向。

    Oct, 2023

  • 混淆下的反事实生成

    在机器学习中，当训练数据受到观测或未观测到的混淆影响时，生成的关系可能会与部署时相差较大。本文提出了一种基于因果生成过程的对抗性生成方法，以最小化生成因素之间的关联性，从而生成有效对抗性数据用于训练图像分类器，即使训练数据受到高度混淆的影响。

    Oct, 2022

  • 利用生成潜空间中的对比可反事实来解释图像分类器

    在不需要重新训练或调整的情况下，使用预训练的生成模型，介绍了生成因果关系和可解释的反事实解释方法，以提供对黑匣子算法的透明性，并获得对面部属性分类器的对比和因果支持和必要分数，从而展示不同属性如何影响分类器输出。

    Jun, 2022

  • 具有可辨识性保证的反事实生成

    本文研究了对抗生成方法中存在于多个领域的内容和风格变量之间的依赖关系的问题，并提出了一种名为 MATTE 的理论驱动框架，实现了无监督风格迁移任务的最先进性能，不需要配对数据或风格标签。

    Feb, 2024

  • 生成式评估的反事实编辑

    提出了一种基于概念而非像素的生成模型评估和解释框架，通过知识驱动的反事实编辑帮助生成图像接近其地面实况条件，并且全局解释能够反映模型无法完全生成的概念和属性，该框架适用于故事可视化和场景合成等繁重任务。

    Mar, 2023

  • 反事实图像编辑

    反事实图像编辑是生成式人工智能中的重要任务，本文提出了一种利用增强的结构因果模型来建模潜在生成因子与图像之间的因果关系，并通过一种新的家族反事实一致估计器对非可识别的反事实分布进行近似，以解决此挑战性问题。

    Feb, 2024

  • 衡量反事实图像模型的公理准确性

    本研究提出了一个用于评估图像反事实的通用框架，使用深度生成模型学习结构因果模型，重新审视 Pearl 关于反事实公理定义的约束以确定对任何反事实推理模型的必要约束：组合性、可逆性和有效性，并且使用这些约束对反事实进行限制，从而得到了近似函数和理想函数间的距离度量，展示了如何使用这些度量来比较和选择不同的近似反事实推理模型，并揭示模型的不足和权衡。

    Mar, 2023