Apr, 2024

基于 CNN 的解释集成用于数据集、表示和解释评估

PDF
TL;DR通过合并深度分类模型生成的解释，研究人员探索了可解释人工智能的潜力，以揭示模型行为的更一致和可靠的模式，进而评估模型所学到的表示。使用选定的 Quantus 库评估指标，证明该方法在本地化和可信度方面的性能优于单个解释。
explainable artificial intelligencedeep learning modelsensembling explanationscoherent and reliable patternsevaluation metrics
发现论文，激发创造
  • 集成算法处理模型不确定性下的一致解释

    该研究利用集成方法，针对预测模型的不确定性问题，提高了解释的一致性，并在金融数据集上进行实验，证明了集成方法在机器学习中提高可靠性的有效性。

    Jun, 2023

  • 反事实解释器集成

    通过自编码器的包装方法，我们提出了一个包含多个可解释性对抗性分析器的集合，通过利用多样性导向的选择函数，将这些弱分析器的结果结合起来，从而实现了针对可解释性具有各种重要属性的强大方法。

    Aug, 2023

  • 解决谜题：推导深度网络的最优解释

    通过整合不同的解释方法并利用非线性的 “解释优化器”，我们提出了一种新颖的框架，旨在增强深度神经网络的可解释性，并通过实验证实了其有效性。

    May, 2024

  • 可解释的深度泛化领域分类模型

    AI 模型的可解释性通常会因降低准确性而受到质疑。我们开发了一种训练策略，不仅提高了目标分类方案的解释性，同时并未降低准确性，实现方式是对决策网络作出决策的可视证据进行区域定位，其表示方法为表征哪些像素对网络决策的贡献最大的显著性图。我们的训练策略通过使模型集中于直接对应于地面目标的图像区域的反馈，在自动和人工指标的量化中量化可解释性，并提出了可解释性作为弥合不同域之间视觉 - 语义差距的手段。我们证明，这种方法不仅提高到新领域的泛化性能，而且不会影响在原始领域上的性能。

    Mar, 2020

  • 结合概念分析和 ILP 的 DNN 表达式解释

    该论文研究了如何利用深度学习神经网络中学习到的内在特征，利用概念分析方法和归纳逻辑编程理论，构建基于符号的模型，实现黑盒机器学习的可解释性，体现其透明度和可靠性的要求。

    May, 2021

  • 卷积网络中嵌入编码器解码器以实现可解释的 AI

    本文介绍了一种新的可解释卷积神经网络（XCNN），能够表示视觉刺激的重要和驱动特征，并提供了无需本地化标签和额外后处理步骤的热图生成。在多个数据集上的实验证明了 XCNN 的成功，验证了其在类别特定特征表示和可解释热图生成方面的性能优于当前算法，同时提供了简单灵活的网络结构，为提高可解释的弱监督定位和语义分割奠定了基础。

    Jun, 2020

  • 基准数据用于研究预训练对磁共振图像分类解释性能的影响

    本研究提出了针对磁共振成像分类任务的基准数据集，并利用该数据集了解迁移学习对解释质量的影响。实验结果表明，应用于相同基础模型的流行的 XAI 方法在性能上有很大差异，即使只考虑分类正确的例子。我们进一步观察到，解释性能强烈依赖于用于预训练的任务和预训练的 CNN 层数。

    Jun, 2023

  • 计算机视觉中鲁棒性和可解释模型的深度学习

    最近在机器学习和深度学习研究领域的重大突破为利用海量数据和优化包含数百万参数的庞大模型以获得图像处理方面的准确网络提供了出色的工具，进而为在自动化和人工智能行业中使用人工智能打开了巨大的机遇。然而，随着越来越多的模型在实践中得到部署和使用，也出现了许多挑战。本文介绍了解决在实践中使用机器学习和深度学习所面临的鲁棒性和可解释性挑战的多种方法。

    Mar, 2024

  • 可解释方法中的婴儿大脑注意力方式

    该文提出了一种名为 “可解释的几何深度网络” 的端到端学习方法，用于在高维数据中实现精细的可解释性，例如神经成像和神经科学研究。该方法采用学习解释性因素来增强鉴别性表示提取，以实现可解释的预测和分类结果。

    Jan, 2023

  • 可解释的人工智能：理解、可视化和解释深度学习模型

    基于深度学习的解释性可视化方法在人工智能领域日益被重视，本文总结了目前解释深度学习模型的最新发展，并提出两种解释预测的方法，并将这些方法用于三个分类任务中进行评估。

    Aug, 2017