Aug, 2023

基于扩散的视觉反事实解释 —— 朝向系统化定量评估

PDF
TL;DR最新的视觉反事实解释方法利用深度生成模型的能力合成了高维度图像的新示例，本研究提出了一个系统的、量化的评估框架以及一组最小的指标，探索了最新的基于扩散的生成模型在自然图像分类的反事实解释方面的关键设计选择的效果，并通过产生数千个反事实解释来对各种复杂度、准确性和鲁棒性的分类器进行了一系列消融实验，为未来反事实解释方法的进一步改进和发展提出了多个方向，通过分享研究方法和解决计算挑战的方法，为该领域的研究人员提供了宝贵的指导，促进了对反事实解释的评估的一致性和透明度。
visual counterfactual explanationsdeep generative modelsevaluation proceduresdiffusion-based generative modelsnatural image classification
发现论文，激发创造
  • 扩散视觉对抗解释

    本文中，我们通过扩散过程生成任意 ImageNet 分类器的 DVCE，其关键在于自适应参数化以及锥形正则化，从而使得扩散过程不会收敛到微小的非语义变化，而是产生目标类的逼真图像并获得高分类置信度。

    Oct, 2022

  • 通过扩散引导分析和解释图像分类器

    通过生成图像的方式来优化分类器结果、分析图像分类器的行为和决策、检测系统错误并可视化神经元，验证现有观察结果并发现新的错误模式或有害的虚假特征。

    Nov, 2023

  • 图像空间中的稀疏视觉对抗解释

    通过我们的新型扰动模型和自动 Frank-Wolfe 方案的高效优化，可以生成稀疏的视觉对抗解释，用以检测 ImageNet 分类器中的假特征。

    May, 2022

  • 反事实解释的扩散模型

    本论文提出 DiME 方法，在使用最近传播模型的同时利用引导生成扩散过程，充分利用目标分类器的梯度生成输入实例的反事实解释，进一步通过提出一个新的度量标准 —— 相关差异，分析了目前评估虚假相关性的方法，并进行实验验证，结果表明该算法在 CelebA 上优于之前的最新研究成果。

    Mar, 2022

  • 图形对抗性解释概述：定义，方法和评估

    本文系统地总结了现有的基于图神经网络的反事实解释方法，提供了统一的框架和常用指标以便于比较研究优缺点，并探讨了隐私和公平方面的问题。

    Oct, 2022

  • 生成式评估的反事实编辑

    提出了一种基于概念而非像素的生成模型评估和解释框架，通过知识驱动的反事实编辑帮助生成图像接近其地面实况条件，并且全局解释能够反映模型无法完全生成的概念和属性，该框架适用于故事可视化和场景合成等繁重任务。

    Mar, 2023

  • VCNet: 用于生成逼真反事实的自我解释模型

    提出了 VCNet-Variational Counter Net，这是一个用于回归或分类的模型架构，它能够同时生成预测和接近预测类分布的因果解释，该模型在表格数据集上的实证评估结果表明，其结果与最先进的方法相当竞争。

    Dec, 2022

  • 超越琐碎的反事实解释：拥有多样有价值的解释

    该论文提出了 DiVE 方法，通过在分散的潜在空间中学习扰动并使用多样性强制损失进行约束，从而揭示与模型预测相关的多个有价值的解释，以防止模型产生微不足道的解释。实验证明，与之前的最新方法相比，我们的模型可以提高高质量有价值解释的成功率。

    Mar, 2021

  • 潜在扩散对抗解释

    基于潜在扩散模型，引入了潜在扩散反事实解释 (LDCE)，用以快速生成反事实实例，并专注于数据的重要、语义部分；通过新颖的共识引导机制过滤出与扩散模型的隐式分类器不一致的嘈杂、对抗性梯度，展示了 LDCE 在各种学习范式下的多样性和黑盒模型行为的理解。

    Oct, 2023

  • OCTET: 基于对象的反事实解释

    本研究提出了一种以物体为中心的框架来生成反事实解释，该方法通过将查询图像编码到潜在空间中，以便在物体级别上进行操作，并且可以适用于驾驶场景的反事实解释基准测试，并且设计并运行了用户研究以衡量反事实解释在理解决策模型方面的有用性。

    Nov, 2022