Nov, 2022

利用 Grad-CAM 解释目标检测结果的 YOLO 算法

PDF
TL;DR本文探讨了视觉目标检测的可解释性问题，具体地，我们演示了如何将 Grad-CAM 集成到 YOLO 对象检测器的模型架构中并分析结果。我们展示了如何计算每个检测的基于归因的解释，并发现结果的归一化对其解释有很大的影响。
explainabilityvisual object detectorsyolograd-camattribution-based explanations
发现论文，激发创造
  • Grad-CAM: 基于梯度的定位，通过深度网络提供视觉解释

    该论文提出了 Gradient-weighted Class Activation Mapping (Grad-CAM) 技术，结合细粒度的可视化方法，通过对 CNN 模型中任意目标概念的梯度进行处理，使得决策更加透明和可解释，同时能够定位各个重要部件，提高模型泛化性。作者通过将 Grad-CAM 应用于图像分类、字幕和视觉问答模型，并通过人机交互实验证明，该技术能够帮助用户建立模型的信任度并成功辨别模型的强弱。

    Oct, 2016

  • Grad-CAM++: 深度卷积网络的改进视觉解释

    该论文介绍了一个名为 Grad-CAM++ 的泛化方法，它以更好的对象定位和解释单个图像中多个对象实例的方式提供了更好的 CNN 模型预测视觉解释，并在标准数据集上进行了广泛的实验和评估，包括分类，图像字幕生成和 3D 动作识别等多个任务。

    Oct, 2017

  • 目标检测更好的解释方法

    本文提出了一种名为 D-CLOSE 的方法，用于解释任何目标检测模型的决策，并利用图像上的多层分割和结合过程来跟踪模型的行为。在 MS-COCO 数据集中使用 YOLOX 模型进行测试，表明我们的方法优于 D-RISE，可以提供更好的质量和更少的噪音解释。

    Jun, 2023

  • 从 YOLOv1 到 YOLOv8 以及未来 ——YOLO 的全面评估

    本文综合分析了 YOLO 实时目标检测系统的发展历程及其每个版本的创新和贡献，从原版 YOLO 到 YOLOv8，涵盖了标准度量和后处理、网络架构和训练技巧等方面，总结了 YOLO 发展的重要经验和展望其未来，强调提高实时目标检测系统的潜在研究方向。

    Apr, 2023

  • Grad-CAM：你为什么这样说？

    提出了一种基于 Grad-CAM 的透明度技术，通过可视化重要的输入区域来提高人类对卷积神经网络（CNN）模型的理解，帮助理解包括图像字幕和视觉问答（VQA）模型在内的基于 CNN 的模型，并通过测量它们的分类能力、人类可信度和与遮挡地图的相关性来评估它们的视觉解释。

    Nov, 2016

  • G-CAME：面向目标检测器的高斯类激活映射解释器

    本文提出了一种使用高斯激活映射解释器（G-CAME）生成显着性图作为解释目标检测模型的方法，与其他基于区域的方法相比，G-CAME 具有更短的解释时间，并在 MS-COCO2017 数据集上得到了定性和定量的评估。

    Jun, 2023

  • Grad-CAM 在医学图像中的可解释性

    可解释的深度学习在医学成像领域引起了广泛关注，研究探讨了可解释的深度学习和 Grad-CAM 在医学成像中的原理、应用技术及局限性，强调了它们对提高医学成像中深度学习模型精确性和解释性的潜力。

    Jul, 2023

  • Smooth Grad-CAM++: 深度卷积神经网络模型增强推理可视化技术

    本文介绍了一种叫做 Smooth Grad-CAM++ 的新方法，用于可视化神经网络内部的决策过程并解释其输出，该方法在多种场合下表现出更优秀的效果，特别是在物体定位和图像分类方面。

    Aug, 2019

  • 基于一体化梯度评分的卷积神经网络敏感性感知可视解释

    通过计算 Grad-CAM 的基于梯度项的路径积分，我们提出了一种解决方法，可以更好地说明该模型提取的特征对其预测的重要性，对于物体定位和模型解释具有重要意义。

    Feb, 2021

  • 增强可解释人工智能：结合 GradCAM 和 LRP 的混合方法用于 CNN 的解释性

    通过结合 GradCAM 和 LRP 方法，我们提出了一种新的技术来解释基于 CNN 的模型的输出。在这种方法中，首先对 GradCAM 方法产生的解释进行处理以去除噪声，然后将处理后的输出与 LRP 的输出逐元素相乘，最后对乘积应用高斯模糊。通过 Faithfulness、Robustness、Complexity、Localisation 和 Randomisation 等指标我们将该方法与 GradCAM 和 LRP 进行比较，发现该方法在 Complexity 方面性能更好，并且在其他指标中至少比其中一种方法表现更好。

    May, 2024