Oct, 2023

早期作物分类的可解释人工智能 (XAI)

PDF
TL;DR我们提出一种通过使用可解释的人工智能（XAI）方法来提前进行作物分类的方法。我们的方法包括训练一个基准作物分类模型，以进行层内相关传播（LRP），从而可以确定显著的时间步长。我们选择了一些重要的时间索引来创建可能的最短分类时间范围。我们确定了 2019 年 4 月 21 日至 2019 年 8 月 9 日的这段时间在准确性和提前性方面有着最佳平衡。与使用完整时间序列相比，这个时间范围仅损失了 0.75% 的准确性。我们观察到基于 LRP 得到的重要时间步长还突出了区分不同类别的输入值中的细小细节。
发现论文，激发创造
  • 基于虚拟检查层的时序可解释人工智能

    本文介绍了一种虚拟检查层，可以将时间序列转换为可解释的表示形式，使得 XAI 的方法可以适用于仅在转换后才能被解释的领域，如语音，同时演示了 DFT-LRP 在各种时间序列分类设置中的应用，并显示了 DFT-LRP 如何显示出不同分类策略的区别。

    Mar, 2023

  • 关于时间序列 XAI 方法的严格评估

    本文介绍了将之前主要用于图像和文本领域的可解释人工智能（XAI）方法应用于时间序列上的新方法。作者提出了一种方法来测试和评估各种对于时间序列的 XAI 方法，并介绍了新的验证技术用以融入时间维度。作者进一步进行了初步实验来评估所选 XAI 方法的解释质量，并证明了在初步实验中，SHAP 方法的工作表现很强，但是像 DeepLIFT，LRP 和 Saliency Maps 等方法却更适用于特定的架构。

    Sep, 2019

  • 时间序列分类中借鉴图像突出方法的 XAI

    本文提出了一种基于深度神经网络的师生架构（蒸馏模型），用于在时间序列分类任务中提供可解释性。该方法通过将时间序列转换为 2D 图形，并应用图像高亮方法（如 LIME 和 GradCam），使预测结果可解释。同时，该方法在与基准模型竞争时提供了更高的准确性，代价是增加了训练时间。

    Nov, 2023

  • 扩展基于 CAM 的遥感图像分割的可解释人工智能方法

    通过适应最近的 XAI 分类算法并将它们用于多类别图像分割，本文着重于对高分辨率卫星图像中的建筑物分割的研究，引入了一种基于 “熵” 来衡量模型不确定性的新的 XAI 评估方法和指标，以此来提供透明度和可解释性，为图像分割领域的 XAI 研究和遥感应用铺平道路。

    Oct, 2023

  • 从 “在哪里” 到 “是什么”: 通过概念关联传播实现人类可理解的解释

    该论文介绍了概念相关传播 (CRP) 方法，该方法结合了本地和全局 XAI 的观点，从而允许回答单个预测的 “何时” 和 “何物” 的问题，而无需施加其他限制。作者进一步介绍了相关性最大化的原则，以找到编码概念的有用代表性示例。作者演示了该方法在各种不同的设置中的能力，展示了概念相关传播和相关性最大化如何通过概念地图、概念组合分析和概念子空间的量化调查及其在细粒度决策中的作用，提供更人性化的解释和深入的模型表示和推理见解。

    Jun, 2022

  • 遥感图像分类的一次属性可解释人工智能方法的定量分析

    本文通过量化评估解释性人工智能技术对遥感图像分类的影响，深入分析了不同类型模型选用 XAI 方法所获得的结果，提供了选择最合适的解释性方法来了解模型决策过程的建议和见解。

    Jun, 2023

  • 基于领域驱动 XAI 方法的金融时间序列预测 AI 系统良好实践假设

    机器学习和深度学习在金融预测中越来越普遍，但是这些复杂模型缺乏透明度和可解释性，在金融等敏感领域使用具有挑战性。本文探讨了在金融领域中应用可解释性人工智能的好方法，强调数据质量、面向特定人群的方法、数据属性的考虑以及解释的稳定性的重要性。这些实践旨在应对金融行业的独特挑战和要求，并指导有效的可解释性人工智能工具的开发。

    Nov, 2023

  • 寻找合适的 XAI 方法 -- 评估和排名可解释气候科学人工智能方法指南

    本研究介绍了 XAI 在气候研究中的应用，并评估了不同的解释属性，建立在先前的工作和训练多层感知器 MLP 和卷积神经网络 CNN 进行预测，我们发现 Integrated Gradients，Layer-wise relevance propagation 和 InputGradients 表现得很好。

    Mar, 2023

  • 临床数据可解释人工智能方法的实证比较：以创伤性脑损伤为例的案例研究

    利用结构化表格和时间序列生理数据实现了创伤性脑损伤 (TBI) 的短期和长期预测模型，使用六种不同的解释技术分析了局部和全局的预测模型，并对每种方法的优缺点进行了比较，发现 SHAP 是最稳定的，且保真度最高，但理解度低。

    Aug, 2022

  • 关于 PHM 中 XAI 的准确性

    本文提出一种应用于时间序列回归模型的 XAI 方法的关键性和比较式修订，以探索这些方法的有效性，并比较它们之间的性能差异，结果表明 GRAD-CAM 是最强大的方法。

    Mar, 2023