该篇论文综述了深度神经网络在机器学习中的应用，针对一些需要保证安全性的决策（如控制系统和医疗应用），介绍了当前解释性人工智能（XAI）领域的研究，探究和解释 DNNs 内部和整体行为的方法。

Feb, 2021

AI 模型的可解释性通常会因降低准确性而受到质疑。我们开发了一种训练策略，不仅提高了目标分类方案的解释性，同时并未降低准确性，实现方式是对决策网络作出决策的可视证据进行区域定位，其表示方法为表征哪些像素对网络决策的贡献最大的显著性图。我们的训练策略通过使模型集中于直接对应于地面目标的图像区域的反馈，在自动和人工指标的量化中量化可解释性，并提出了可解释性作为弥合不同域之间视觉 - 语义差距的手段。我们证明，这种方法不仅提高到新领域的泛化性能，而且不会影响在原始领域上的性能。

Mar, 2020

本文提出了一种实用的方法，通过使用最近的理论并近似 Shapley 特征重要性值解释 DNN 目标检测器所做的决策，该方法具有与最先进方法可比的保真度和足够的计算效率，可以处理大型数据集。我们在质量和数量方面展示了所提出的解释方法可用于查找导致 DNN 目标检测失败的图像特征。开发的软件工具结合到 “解释到修复”（E2X）框架中，其计算效率比先前的方法高出一个数量级，可以使用图形处理单元（GPUs）进行集群处理。最后，我们提出了 E2X 框架的一个潜在扩展，即可以将发现丢失的特征添加到训练数据集中，以克服模型重新训练后的失败。

Nov, 2018

本文回顾了基于深度学习的目标检测框架，从深度学习和卷积神经网络教程开始，介绍了典型的通用和特定目标检测架构以及改进方法和技巧，并提供了实验数据分析，最后提出了未来研究中的几个有前景的方向和任务。

Jul, 2018

该文提出了一种名为 “可解释的几何深度网络” 的端到端学习方法，用于在高维数据中实现精细的可解释性，例如神经成像和神经科学研究。该方法采用学习解释性因素来增强鉴别性表示提取，以实现可解释的预测和分类结果。

Jan, 2023

提出 D-RISE 方法，生成针对目标检测器预测的视觉解释。D-RISE 可以被视为黑盒测试，不需要了解模型的内部工作原理，可以轻松应用于不同的目标检测器类型，并通过对生成的视觉解释进行详细分析，突出了上下文的利用和目标检测器学习的可能偏见。

Jun, 2020

该论文的研究内容主要涵盖了人工智能、深度神经网络、可解释 AI、视知觉技术以及深度模型的调试等领域。论文提出的 Perception Visualization 技术通过可视化深度模型对于输入图像的感知来解释模型预测结果，研究发现人类能够更好地理解和预测系统决策，从而使深度模型的调试和部署更加可靠。

Apr, 2022

本研究基于特殊遮盖的 MS COCO 数据集，对目前最先进的 Faster R-CNN 和 YOLO 目标检测器的准确性进行评估和比较，以衡量它们的预测有多少依赖于编码在对象类别级别上的上下文信息。研究结果表明，当前检测器通常不会在类别级别上建立强的依赖关系，但是当它们这样做时，它们的方式往往相似，表明对象类别的上下文依赖性是一个独立的属性，这具有传递知识的相关性。

Sep, 2018

最近在机器学习和深度学习研究领域的重大突破为利用海量数据和优化包含数百万参数的庞大模型以获得图像处理方面的准确网络提供了出色的工具，进而为在自动化和人工智能行业中使用人工智能打开了巨大的机遇。然而，随着越来越多的模型在实践中得到部署和使用，也出现了许多挑战。本文介绍了解决在实践中使用机器学习和深度学习所面临的鲁棒性和可解释性挑战的多种方法。

Mar, 2024

通过交互式干预训练（IIT）方法，本研究设计了一个端到端优化的多目标跟踪结构和训练协议来解释神经网络在 3D 检测，多目标跟踪和运动预测方面的决策，从而提供解释与可解释性。

Oct, 2022