Apr, 2019

反事实视觉解释

PDF
TL;DR本文提出了一种生成反事实视觉解释的方法，用于多个图像分类数据集，结果表明该方法具有可解释性和区分性；同时，机器教学实验表明在鸟类分类任务中，提供反事实解释的人更容易区分鸟类物种。
counterfactual visual explanationimage classificationinterpretabilitydiscriminativenessmachine teaching
发现论文，激发创造
  • 头脑清晰：走向语义一致的视觉反事实

    本研究提出了一种新的视觉反事实解释框架，基于语义一致性和多样性因素，可以更有效地用于细粒度图像识别，并通过机器教学实验证明了其实用性和优越性。

    Mar, 2022

  • 使用自然语言生成反事实解释

    本文提出了一种基于深度神经网络的自然语言解释方法用于图像的分类，其中通过缺失证据来产生反事实解释，并提出了自动度量以分析所生成的反事实解释。

    Jun, 2018

  • 利用生成潜空间中的对比可反事实来解释图像分类器

    在不需要重新训练或调整的情况下，使用预训练的生成模型，介绍了生成因果关系和可解释的反事实解释方法，以提供对黑匣子算法的透明性，并获得对面部属性分类器的对比和因果支持和必要分数，从而展示不同属性如何影响分类器输出。

    Jun, 2022

  • 平滑解释黑匣子 —— 反事实方法

    该研究提出了一种黑盒对抗解释器来解释医学应用中的图像分类模型，并通过对诊断放射学居民进行实验，发现反事实解释是唯一能显着提高用户对分类器决策理解的解释方法。

    Jan, 2021

  • OCTET: 基于对象的反事实解释

    本研究提出了一种以物体为中心的框架来生成反事实解释，该方法通过将查询图像编码到潜在空间中，以便在物体级别上进行操作，并且可以适用于驾驶场景的反事实解释基准测试，并且设计并运行了用户研究以衡量反事实解释在理解决策模型方面的有用性。

    Nov, 2022

  • 自知的鉴别反事实解释

    该研究提出了一种新的判别性反事实视觉解释方法，通过结合三个归属图来计算反事实图，从而更快地获得表现良好的结果，并通过一套量化指标来评价结果。

    Apr, 2020

  • 多类别场景下土地覆盖映射的反事实解释

    本文提出了一种基于生成对抗的反事实方法来处理多类土地覆盖分类任务中的卫星图像时间序列数据，通过寻找、展示样本沿决策边界的类似样本，增强深度学习模型的可解释性。该方法具有先前方法相比灵活性高、可解释性强的特点。

    Jan, 2023

  • 相关无关性：为图像分类器生成对抗性解释

    本文介绍了一种基于生成对抗网络 (GAN) 的方法，用于生成可以解释神经网络黑盒模型的替代性解释，进一步通过用户研究验证了替代性解释与反事实解释相辅相成。

    May, 2024

  • STEEX: 带有语义信息的反事实解释调节器

    本文提出了一种新型的生成式反事实性解释框架，旨在生产可信度高、修改最小、保留结构的高质量图像。同时介绍了 “针对区域的反事实性解释” 概念和相应框架，通过指定图像的语义区域来指导反事实性产生，证明了该框架在高质量人像和复杂场景等数据集上的有效性。

    Nov, 2021

  • 基于知识的反事实查询在视觉问答中的应用

    本文通过利用结构化知识库进行确定性、最优和可控的词级替换，以探究 VQA 模型行为的解释和鲁棒性，并从反事实的回答中提取局部和全局解释，发现可能的偏见和影响模型的性能的预期和意外模式，揭示了模型决策过程中的潜在偏见。

    Mar, 2023