Nov, 2023

时间序列分类中借鉴图像突出方法的 XAI

PDF
TL;DR本文提出了一种基于深度神经网络的师生架构（蒸馏模型），用于在时间序列分类任务中提供可解释性。该方法通过将时间序列转换为 2D 图形，并应用图像高亮方法（如 LIME 和 GradCam），使预测结果可解释。同时，该方法在与基准模型竞争时提供了更高的准确性，代价是增加了训练时间。
发现论文，激发创造
  • 关于时间序列 XAI 方法的严格评估

    本文介绍了将之前主要用于图像和文本领域的可解释人工智能（XAI）方法应用于时间序列上的新方法。作者提出了一种方法来测试和评估各种对于时间序列的 XAI 方法，并介绍了新的验证技术用以融入时间维度。作者进一步进行了初步实验来评估所选 XAI 方法的解释质量，并证明了在初步实验中，SHAP 方法的工作表现很强，但是像 DeepLIFT，LRP 和 Saliency Maps 等方法却更适用于特定的架构。

    Sep, 2019

  • 基于虚拟检查层的时序可解释人工智能

    本文介绍了一种虚拟检查层，可以将时间序列转换为可解释的表示形式，使得 XAI 的方法可以适用于仅在转换后才能被解释的领域，如语音，同时演示了 DFT-LRP 在各种时间序列分类设置中的应用，并显示了 DFT-LRP 如何显示出不同分类策略的区别。

    Mar, 2023

  • 基于领域驱动 XAI 方法的金融时间序列预测 AI 系统良好实践假设

    机器学习和深度学习在金融预测中越来越普遍，但是这些复杂模型缺乏透明度和可解释性，在金融等敏感领域使用具有挑战性。本文探讨了在金融领域中应用可解释性人工智能的好方法，强调数据质量、面向特定人群的方法、数据属性的考虑以及解释的稳定性的重要性。这些实践旨在应对金融行业的独特挑战和要求，并指导有效的可解释性人工智能工具的开发。

    Nov, 2023

  • 树形推理：使用层次结构解释卷积神经网络

    使用层次分割技术构建模型解释框架，提供可信和可解释的卷积神经网络 (CNN) 解释，旨在增强 xAI 的可解释性和理解神经网络的决策过程。

    Jun, 2024

  • timeXplain -- 时间序列分类器预测解释框架

    该研究提出了一种名为 timeXplain 的框架，旨在将解释性人工智能应用于时间序列分类和价值预测中，并在该框架下对几种最先进的时间序列分类器进行了大规模实验比较，发现了似乎不同的分类概念之间的相似性。

    Jul, 2020

  • 如何将深度视觉解释应用于时间序列

    该研究提出了一个包含六个度量标准的框架，可以用于评估时间序列分类和分割任务中的可视化解释方法的可靠质量度量，并评估了多种流行神经网络架构在不同数据集上的表现，从而为领域专家提供选择适当可视化技术的建议。

    Mar, 2022

  • 深度神经网络的理解、可视化和解释调查

    该篇论文综述了深度神经网络在机器学习中的应用，针对一些需要保证安全性的决策（如控制系统和医疗应用），介绍了当前解释性人工智能（XAI）领域的研究，探究和解释 DNNs 内部和整体行为的方法。

    Feb, 2021

  • 利用基于热图的可解释 AI 提高深度神经网络分类置信度

    本文研究基于热图的可解释 AI 方法在图像分类问题中的质量，并且提出了一个新的分布来显示正确预测和错误预测之间的鲜明差异。最后，提出了一种名为 “生成增强解释” 的方法，可生成能够提高预测精度的热图。

    Dec, 2021

  • 基于显著性的可解释性方法评估

    本文结合三个人体实验研究基于显著性的可解释性方法对于卷积神经网络的解释效果，并评估其可行性。

    Jun, 2021

  • 深度神经网络的解释处理

    本文发现了一个问题：通过微调输入图像，我们可以演示图像识别的解释方式可以通过进化策略对其进行任意操作。通过我们的 Adversarial XAI 算法 AttaXAI，我们能够在不使用梯度或其他模型内部的情况下，成功地在黑盒设置下操作解释方法，从而实现了对图像做微小改变却使 XAI 方法输出特定解释的目标。

    Nov, 2022