ICCVOct, 2023

迭代集成归因的视觉解释

PDF
TL;DR通过迭代整合属性（IIA）方法来解释视觉模型的预测，IIA 方法通过迭代整合输入图像、模型生成的内部表示以及它们的梯度，得到精确而聚焦的解释图。我们通过对各种任务、数据集和网络架构的综合评估验证了 IIA 的有效性，研究结果表明 IIA 产生了准确的解释图，优于其他最先进的解释技术。
iterated integrated attributionsexplanationpredictionsvision modelsexplanation maps
发现论文，激发创造
  • 计算机视觉中基于归因的可解释 AI 方法综述

    本文对计算机视觉中基于归因的 Explainable AI (XAI) 方法进行了全面概述，并回顾了梯度、扰动和对比方法，提供了开发和评估强健 XAI 方法的关键挑战的见解。

    Nov, 2022

  • EvalAttAI: 对鲁棒和非鲁棒模型中评估属性图的整体方法

    探索透视医学影像分类应用的影响映射方法和度量评估，提出 EvalAttAI 度量已有度量的局限并进行改进，结果显示：使用 Vanilla Gradient 方法的贝叶斯深度神经网络通常更具可解释性。

    Mar, 2023

  • 深度综合解释

    该研究提出了 Deep Integrated Explanations（DIX）—— 一种用于解释视觉模型的通用方法，通过整合模型的中间表示和相应的梯度来生成解释图，通过广泛的客观和主观评估展示了 DIX 在生成准确和可靠的解释图方面超越了当前的最先进方法。

    Oct, 2023

  • 集成梯度归因方法的四个公理特征

    本研究介绍了一种称为 Integrated Gradients 方法的基线归因方法和其四个公理特征，用以揭示神经网络及其他机器学习模型的内部工作机制。

    Jun, 2023

  • 无监督发现可解释的视觉概念

    这篇论文提出了两种方法，最大激活群提取和多尺度可解释性可视化，以解释模型的决策，增强全局可解释性。实验证据表明多尺度可解释性可视化具有更高的定位和可信度价值。综合应用最大激活群提取和多尺度可解释性可视化可以达成人们根据可视化结果一致判断聚类概念的决策，并检测存在偏见的网络集合。

    Aug, 2023

  • IG2：特征归因的迭代梯度路径上的综合梯度

    特征归因方法 IG2 整合了梯度的正常输出和反事实输出，提高了特征归因的准确性，并证明在多个领域取得了优于现有技术的结果。

    Jun, 2024

  • 集成决策梯度：在模型做出决策的地方计算您的属性

    本研究提出了一种新的归因算法 (IDG) 用于神经网络模型的解释，该算法实现了通过将梯度积分到模型决策区域来解决饱和问题，该算法在 ImageNet 上进行的评估表明 IDG 在三个常见模型中以标准插入和删除度量标准在质量和量化上都优于 IG、left-IG、guided IG 和敌对梯度积分。

    May, 2023

  • 深度神经网络的解释处理

    本文发现了一个问题：通过微调输入图像，我们可以演示图像识别的解释方式可以通过进化策略对其进行任意操作。通过我们的 Adversarial XAI 算法 AttaXAI，我们能够在不使用梯度或其他模型内部的情况下，成功地在黑盒设置下操作解释方法，从而实现了对图像做微小改变却使 XAI 方法输出特定解释的目标。

    Nov, 2022

  • 通过交互式注意力对齐，将人类和深度神经网络的眼睛对准

    提出了一种交互式注意力对齐（IAA）框架，旨在实现可操纵的深度神经网络（DNNs），其中利用 DNN 模型解释方法作为交互媒介，直接调整注意力以改善 DNN 的准确性和公正性，并提出了一个计算流程，即 GRADIA，可以同时最大化注意力质量和预测准确性。通过两项研究，发现这种框架可以显著提高模型准确性和公正性，为未来交互式用户界面设计提供了启示。

    Feb, 2022

  • 尺度与空间的归因

    该论文研究应用于感知任务的深度网络的归因问题，并提出了一种名为 “Blur Integrated Gradients” 的新技术，该技术比其他方法具有多个优点，可以准确识别物体并产生一致且干净的解释，适用于图像，视网膜病变和音频事件等多个任务。

    Apr, 2020