Nov, 2023

仅解释一次

PDF
TL;DR该研究提出了一种新的黑盒可解释性算法和工具 YO-ReX，用于有效解释目标检测器的输出。新算法同时计算图像中所有检测到的对象的解释，与基线相比，新算法可以减少查询次数 10 倍，速度随对象数量增加而进一步提高。实验结果表明，YO-ReX 可以在几乎不增加 YOLO 运行时间的情况下解释 YOLO 的输出，对于 SSD 和 Faster R-CNN 也有类似的结果。加上因果分析的积极剪枝，使得算法避免了回溯。
black-box explainability algorithmobject detectorsyo-rexexplanationsspeedup
发现论文，激发创造
  • 图像分类器的多种不同解释

    给定一张图片的黑盒图像分类器的输出，我们描述了一种基于因果理论的算法和工具 REX，用于计算该图像的多个解释，并通过实验证明 REX 在 ImageNet-mini 基准测试上能够找到比之前方法多 7 倍的图像的多个解释。

    Sep, 2023

  • 目标检测更好的解释方法

    本文提出了一种名为 D-CLOSE 的方法，用于解释任何目标检测模型的决策，并利用图像上的多层分割和结合过程来跟踪模型的行为。在 MS-COCO 数据集中使用 YOLOX 模型进行测试，表明我们的方法优于 D-RISE，可以提供更好的质量和更少的噪音解释。

    Jun, 2023

  • You Only Look Once: 统一、实时目标检测

    YOLO 是一种新的目标检测方法，使用单个神经网络从完整图像中直接预测边界框和类别概率，具有实时处理速度、误检低和物体的通用表示等优势。

    Jun, 2015

  • 利用 Grad-CAM 解释目标检测结果的 YOLO 算法

    本文探讨了视觉目标检测的可解释性问题，具体地，我们演示了如何将 Grad-CAM 集成到 YOLO 对象检测器的模型架构中并分析结果。我们展示了如何计算每个检测的基于归因的解释，并发现结果的归一化对其解释有很大的影响。

    Nov, 2022

  • 利用显著图解释物体检测器的黑箱模型

    提出 D-RISE 方法，生成针对目标检测器预测的视觉解释。D-RISE 可以被视为黑盒测试，不需要了解模型的内部工作原理，可以轻松应用于不同的目标检测器类型，并通过对生成的视觉解释进行详细分析，突出了上下文的利用和目标检测器学习的可能偏见。

    Jun, 2020

  • 解释性修正：一种解释和修正深度学习目标检测器预测的框架

    本文提出了一种实用的方法，通过使用最近的理论并近似 Shapley 特征重要性值解释 DNN 目标检测器所做的决策，该方法具有与最先进方法可比的保真度和足够的计算效率，可以处理大型数据集。我们在质量和数量方面展示了所提出的解释方法可用于查找导致 DNN 目标检测失败的图像特征。开发的软件工具结合到 “解释到修复”（E2X）框架中，其计算效率比先前的方法高出一个数量级，可以使用图形处理单元（GPUs）进行集群处理。最后，我们提出了 E2X 框架的一个潜在扩展，即可以将发现丢失的特征添加到训练数据集中，以克服模型重新训练后的失败。

    Nov, 2018

  • MRxaI: 医疗环境下图像分类器的黑盒可解释性

    现有的解释工具可以分为白盒和黑盒两种，医学领域的图像解释工具主要集中在白盒方法，本文对比了多种黑盒方法与 grdcam 在脑癌 MRI 数据集上的表现，发现大多数黑盒方法不适用于解释医学图像分类，而一种基于因果关系的黑盒方法能与 gradcam 同等效果。

    Nov, 2023

  • YOLOv5, YOLOv8 和 YOLOv10：实时视觉领域首选检测器

    本文综述了 YOLO（You Only Look Once）目标检测算法的演进，着重介绍了 YOLOv5、YOLOv8 和 YOLOv10。分析了这些版本的架构改进、性能提升以及在边缘部署方面的适用性。研究结果表明在准确性、效率和实时性能方面不断取得了进展，并强调了它们在资源受限环境中的适用性。本综述提供了模型复杂性和检测准确性之间的权衡，为选择特定边缘计算应用的最合适的 YOLO 版本提供指导。

    Jul, 2024

  • 从共同出现的物体类别的角度分析物体检测器

    本研究基于特殊遮盖的 MS COCO 数据集，对目前最先进的 Faster R-CNN 和 YOLO 目标检测器的准确性进行评估和比较，以衡量它们的预测有多少依赖于编码在对象类别级别上的上下文信息。研究结果表明，当前检测器通常不会在类别级别上建立强的依赖关系，但是当它们这样做时，它们的方式往往相似，表明对象类别的上下文依赖性是一个独立的属性，这具有传递知识的相关性。

    Sep, 2018

  • YOLO-World：实时开放词汇物体检测

    YOLO-World is an innovative approach that enhances the You Only Look Once (YOLO) series of detectors with open-vocabulary detection capabilities through vision-language modeling, achieving high efficiency and accuracy in detecting a wide range of objects in a zero-shot manner.

    Jan, 2024