Sep, 2023

图像分类器的多种不同解释

PDF
TL;DR给定一张图片的黑盒图像分类器的输出，我们描述了一种基于因果理论的算法和工具 REX，用于计算该图像的多个解释，并通过实验证明 REX 在 ImageNet-mini 基准测试上能够找到比之前方法多 7 倍的图像的多个解释。
explanation toolsimage classifiersmultiple explanationsrexblack-box image classifier
发现论文，激发创造
  • 仅解释一次

    该研究提出了一种新的黑盒可解释性算法和工具 YO-ReX，用于有效解释目标检测器的输出。新算法同时计算图像中所有检测到的对象的解释，与基线相比，新算法可以减少查询次数 10 倍，速度随对象数量增加而进一步提高。实验结果表明，YO-ReX 可以在几乎不增加 YOLO 运行时间的情况下解释 YOLO 的输出，对于 SSD 和 Faster R-CNN 也有类似的结果。加上因果分析的积极剪枝，使得算法避免了回溯。

    Nov, 2023

  • MRxaI: 医疗环境下图像分类器的黑盒可解释性

    现有的解释工具可以分为白盒和黑盒两种，医学领域的图像解释工具主要集中在白盒方法，本文对比了多种黑盒方法与 grdcam 在脑癌 MRI 数据集上的表现，发现大多数黑盒方法不适用于解释医学图像分类，而一种基于因果关系的黑盒方法能与 gradcam 同等效果。

    Nov, 2023

  • 图像分类的两阶段整体和对比解释

    该研究提出了一种基于整体输出和对比解释的深度神经网络分类器输出解释方法，同时通过定量指标和人类主题研究进行了评估。

    Jun, 2023

  • REX：基于推理和实证的解释

    本文旨在提高可信的 AI 系统的有效性和可解释性，定义一个新类型的多模态解释来解释决策，并提出一种新的解释生成方法，可以显式地模拟词语和感兴趣的区域之间的配对关系，同时开发了一个包含 1040830 个多模态解释的新数据集以及进行了广泛的分析，以研究不同设置下解释的有效性和推理性能。

    Mar, 2022

  • 使用 REVEL 框架测量黑匣子模型的本地线性解释：以深度学习图像分类为例的研究

    本文提出了一种名为 REVEL 的程序，用于评估关于解释性人工智能的质量，并为此定义了一系列度量标准。该程序具有理论上的一致性和描述性能力，并通过在 4 个基准数据集上进行实验证明了其分析力。

    Nov, 2022

  • 通过扩散引导分析和解释图像分类器

    通过生成图像的方式来优化分类器结果、分析图像分类器的行为和决策、检测系统错误并可视化神经元，验证现有观察结果并发现新的错误模式或有害的虚假特征。

    Nov, 2023

  • 生成视觉解释

    提出了一种新的深度学习视觉识别模型，可根据可见物体的特征进行分类，并生成解释说明预测标签的原因，该模型使用了一种基于采样和强化学习的新型损失函数，能够生成与现有描述方法不同的描述结果。

    Mar, 2016

  • 针对皮肤病标注的图像分类器示例和反例解释

    使用深度神经网络识别皮肤病变，并通过对抗自编码器生成的例子向医生提供诊断解释，以实现可解释的人工智能医疗决策系统。

    Jan, 2023

  • 当关系比概念更能说明问题：用 CoReX 探索和评估分类器的决策

    本研究提出了一种基于概念和关系的解释方法（CoReX），用于解释和评估卷积神经网络（CNN）模型，以及支持识别和重新分类错误或模糊分类。

    May, 2024

  • 一个解释不能适用于 XIL

    该研究探讨通过多种解释方法进行同时模型修订，以应对机器学习模型存在的短路学习和假相似性等局限性，提出了解释式交互式机器学习框架（XIL），其需考虑多个解释方法来修订模型。

    Apr, 2023