Apr, 2020

可解释的图像分类技术：基于证据的反事实推理

PDF
TL;DR本文提出了 SED 为基于模型的实例级解释方法，以获得视觉反事实解释来解释图像分类结果，同时提出了 SED-T 作为可以指定反事实目标类别的替代方法，并与 LRP、LIME 和 SHAP 等流行的特征重要性方法进行了比较，展示了 SED (T) 的潜力，用于获得信任和洞察，并通过解释误分类情况来为模型改进提供输入。
image classificationexplanation methodscounterfactual explanationsedmodel improvement
发现论文，激发创造
  • CoLa-DCE -- 概念引导的潜在扩散对抗性解释

    通过 Concept-guided Latent Diffusion Counterfactual Explanations (CoLa-DCE) 方法生成概念导向的反事实解释，提供更高的控制度和更好的可理解性，以及对模型错误的帮助。

    Jun, 2024

  • 利用生成潜空间中的对比可反事实来解释图像分类器

    在不需要重新训练或调整的情况下，使用预训练的生成模型，介绍了生成因果关系和可解释的反事实解释方法，以提供对黑匣子算法的透明性，并获得对面部属性分类器的对比和因果支持和必要分数，从而展示不同属性如何影响分类器输出。

    Jun, 2022

  • 平滑解释黑匣子 —— 反事实方法

    该研究提出了一种黑盒对抗解释器来解释医学应用中的图像分类模型，并通过对诊断放射学居民进行实验，发现反事实解释是唯一能显着提高用户对分类器决策理解的解释方法。

    Jan, 2021

  • STEEX: 带有语义信息的反事实解释调节器

    本文提出了一种新型的生成式反事实性解释框架，旨在生产可信度高、修改最小、保留结构的高质量图像。同时介绍了 “针对区域的反事实性解释” 概念和相应框架，通过指定图像的语义区域来指导反事实性产生，证明了该框架在高质量人像和复杂场景等数据集上的有效性。

    Nov, 2021

  • 潜在扩散对抗解释

    基于潜在扩散模型，引入了潜在扩散反事实解释 (LDCE)，用以快速生成反事实实例，并专注于数据的重要、语义部分；通过新颖的共识引导机制过滤出与扩散模型的隐式分类器不一致的嘈杂、对抗性梯度，展示了 LDCE 在各种学习范式下的多样性和黑盒模型行为的理解。

    Oct, 2023

  • OCTET: 基于对象的反事实解释

    本研究提出了一种以物体为中心的框架来生成反事实解释，该方法通过将查询图像编码到潜在空间中，以便在物体级别上进行操作，并且可以适用于驾驶场景的反事实解释基准测试，并且设计并运行了用户研究以衡量反事实解释在理解决策模型方面的有用性。

    Nov, 2022

  • 反事实视觉解释

    本文提出了一种生成反事实视觉解释的方法，用于多个图像分类数据集，结果表明该方法具有可解释性和区分性；同时，机器教学实验表明在鸟类分类任务中，提供反事实解释的人更容易区分鸟类物种。

    Apr, 2019

  • 头脑清晰：走向语义一致的视觉反事实

    本研究提出了一种新的视觉反事实解释框架，基于语义一致性和多样性因素，可以更有效地用于细粒度图像识别，并通过机器教学实验证明了其实用性和优越性。

    Mar, 2022

  • 多类别场景下土地覆盖映射的反事实解释

    本文提出了一种基于生成对抗的反事实方法来处理多类土地覆盖分类任务中的卫星图像时间序列数据，通过寻找、展示样本沿决策边界的类似样本，增强深度学习模型的可解释性。该方法具有先前方法相比灵活性高、可解释性强的特点。

    Jan, 2023

  • 使用自然语言生成反事实解释

    本文提出了一种基于深度神经网络的自然语言解释方法用于图像的分类，其中通过缺失证据来产生反事实解释，并提出了自动度量以分析所生成的反事实解释。

    Jun, 2018