Mar, 2023

图像数据目标检测的模型无关可解释人工智能

PDF
TL;DR本文介绍了一种名为 Black-box Object Detection Explanation by Masking (BODEM) 的黑盒目标检测解释方法，该方法采用了一种新的掩蔽方法来提高可解释性，并能用于提高检测精度和稳健性。
object detectionexplainable aiblack-box explanationmasking approachsaliency map
发现论文，激发创造
  • 可解释的深度泛化领域分类模型

    AI 模型的可解释性通常会因降低准确性而受到质疑。我们开发了一种训练策略，不仅提高了目标分类方案的解释性，同时并未降低准确性，实现方式是对决策网络作出决策的可视证据进行区域定位，其表示方法为表征哪些像素对网络决策的贡献最大的显著性图。我们的训练策略通过使模型集中于直接对应于地面目标的图像区域的反馈，在自动和人工指标的量化中量化可解释性，并提出了可解释性作为弥合不同域之间视觉 - 语义差距的手段。我们证明，这种方法不仅提高到新领域的泛化性能，而且不会影响在原始领域上的性能。

    Mar, 2020

  • 通过有意义的扰动提供黑匣子的可解释性解释

    该研究提出了一种适用于任何黑盒机器学习算法的通用解释框架，并将其特化以找到对分类器决策最负责的图像部分。该方法是模型无关且可测试的，因为它基于明确且可解释的图像扰动。

    Apr, 2017

  • 目标检测更好的解释方法

    本文提出了一种名为 D-CLOSE 的方法，用于解释任何目标检测模型的决策，并利用图像上的多层分割和结合过程来跟踪模型的行为。在 MS-COCO 数据集中使用 YOLOX 模型进行测试，表明我们的方法优于 D-RISE，可以提供更好的质量和更少的噪音解释。

    Jun, 2023

  • 利用显著图解释物体检测器的黑箱模型

    提出 D-RISE 方法，生成针对目标检测器预测的视觉解释。D-RISE 可以被视为黑盒测试，不需要了解模型的内部工作原理，可以轻松应用于不同的目标检测器类型，并通过对生成的视觉解释进行详细分析，突出了上下文的利用和目标检测器学习的可能偏见。

    Jun, 2020

  • 你看到的就是你分类的：黑盒归因

    在黑盒神经网络的基础上，通过训练第二个网络来预测对预备的黑盒分类器的贡献，并将这些贡献以只显示与分类器相关部分的蒙版的形式提供，我们的方法可以直接在单个前向传递中生成非常明显的类特定蒙版。

    May, 2022

  • 一种高效的集成可解释人工智能（XAI）方法用于人脸混合检测

    本研究提出了一种名为 Ensemble XAI 的新型可视化解释方法，它整合了显著性地图、类激活映射和渐变 - 类激活映射，以提供更全面的可视化解释，用于预测输入是否为伪造的仿制品的深度学习预测模型。通过实验评估，该解释方法可以准确地说明深度学习模型的决策过程。

    Apr, 2023

  • 基线 Shapley 解释性探测器

    提出基于基线 Shapley 值的可解释性检测器（BSED）来增强可解释性解释的有效性，并展示了与现有方法的定量和定性比较，以及通过解释进行检测纠正的应用。

    Aug, 2023

  • SIDU: 解释性人工智能的相似性差异与独特性方法

    该论文提出了一种新的深度学习网络可视化解释方法 —— 显著性图，该方法能够有效地定位整个目标区域，与当前先进方法相比，该方法的视觉解释显示出更具有可信度和可信度，通过定量和定性的评估，验证了该方法的有效性。

    Jun, 2020

  • 运用自组织映射创建可解释性入侵检测系统

    本文介绍了一种基于自组织映射的可解释入侵检测系统（X-IDS），该系统可以产生全局和局部的可解释性可视化；该 X-IDS 在 NSL-KDD 和 CIC-IDS-2017 数据集上通过解释生成和传统精度测试进行了评估。

    Jul, 2022

  • 解释目标检测器的显著性方法的合理性检查

    通过对 Saliency methods 在各种目标检测模型中的应用，以及 Guided Backpropagation、Integrated Gradients，以及它们的 Smoothgrad 版本等 saliency 方法的新定性标准的定义，发现 EfficientDet-D0 是最直观的方法，独立于 saliency 方法，通过测试无障碍解释模型。

    Jun, 2023