Nov, 2023

通过原型概念解释验证深度模型决策的 (非) 常规理解

PDF
TL;DR本文提出了一个基于概念的后续解释 AI 框架，通过原型模型不仅传达了每个实例的决策策略 (局部)，而且还传达了整体的类别决策策略 (全局)，从而降低了对人类长期评估的依赖，并使模型验证成为一个直观且可解释的工具。
发现论文，激发创造
  • 可解释的深度神经网络（xDNN）

    本文提出了一种名为 xDNN 的新型深度学习架构，该架构使用原型来优化计算效率，达到超越传统方法的目的，并在基准数据集上进行了测试，取得了世界记录。

    Dec, 2019

  • 人类中心的可解释人工智能方法评估

    人工智能的解释方法对理解深度学习中的决策过程具有重要意义，通过研究对比了三种解释方法的可解释性，结果显示这些方法虽然强调的区域各不相同，但都能提供人类几乎相等的深度理解，进一步增强了这些方法在提升人工智能透明度方面的价值。

    Oct, 2023

  • 评估医疗分类模型的属性和原型的可解释性

    基于 Proto-Caps 模型的 AI 方法和 xAI 解决方案提供了可理解的多模态解释，对放射科医师的决策过程有帮助，但需要进一步开发和重复用户研究以适应相应的用例。

    Apr, 2024

  • 解决谜题：推导深度网络的最优解释

    通过整合不同的解释方法并利用非线性的 “解释优化器”，我们提出了一种新颖的框架，旨在增强深度神经网络的可解释性，并通过实验证实了其有效性。

    May, 2024

  • 深度神经网络的解释处理

    本文发现了一个问题：通过微调输入图像，我们可以演示图像识别的解释方式可以通过进化策略对其进行任意操作。通过我们的 Adversarial XAI 算法 AttaXAI，我们能够在不使用梯度或其他模型内部的情况下，成功地在黑盒设置下操作解释方法，从而实现了对图像做微小改变却使 XAI 方法输出特定解释的目标。

    Nov, 2022

  • 对比学习下的图形全局概念解释

    通过从图神经网络的预测中提取全局概念解释的方法，我们提出了一种超越提高信任和验证模型公平性的 xAI 实践，还能够在几乎没有人类先验直觉的应用领域中发现有价值的科学见解，从而对结构 - 性质关系的任务进行更深入的理解。

    Apr, 2024

  • 深度学习通过原型进行基于案例的推理：一种解释其预测的神经网络

    本文中，我们提出一种新的深度学习网络架构，其中包含自编码器和原型层，这种网络可以自然地解释每个预测的原因，并且能够进行分类。

    Oct, 2017

  • 通过概念学习先验可解释模型的框架

    本文提出一种将解释生成模块附加在基础网络之上、共同训练整个模块的自我解释深度学习模型，适用于无监督概念学习，能够生成有关概念的有意义的解释，并且在概念监督方面有一定的可塑性，具有更好的性能表现。通过在多个数据集上的实验，证明该模型比最近提出的基于概念解释的模型表现更好。

    Aug, 2021

  • 基于概念的模型改进方法综述

    最近的研究关注点已经从简单地提高深度神经网络（DNNs）在各种任务中的性能转向了更具人可解释性的 DNNs。人工智能解释性领域已经观察到了包括基于显著性和基于概念的技术。概念是人类可理解的数据单元，是人类思考的基础。本文系统地回顾和分类了 DNNs 中各种概念表示及其发现算法，特别是在视觉领域。同时也提供了关于基于概念的模型改进文献的详细信息，这是第一个调查基于概念的模型改进方法的研究。

    Mar, 2024

  • 基于学习原型的时间序列数据深度分类解释

    本文介绍了使用深度学习模型中的潜在空间数据来学习代表性的原型用于决策过程的阐释，重点关注对二维时间序列数据的分类，如检测临床心动过缓、早产儿呼吸暂停和语音识别，并通过优化原型多样性和稳健性，提高了已有模型的性能。

    Apr, 2019