ICLRMay, 2023

探索基于梯度的可解释人工智能技术用于时间序列数据：一项评估中风康复锻炼的案例研究

PDF
TL;DR通过应用基于阈值的弱监督模型和梯度可解释人工智能技术 (如 saliency map)，我们在时序数据中探索其可行性，以识别相关框架。在 15 名中风幸存者的数据集中，我们实现了一个前馈神经网络模型，并利用每个输入对模型结果的梯度来识别涉及补偿动作的显著框架。根据帧级注释评估，我们的方法取得了 0.96 的召回率和 0.91 的 F2 分数。这表明了基于梯度的可解释人工智能技术（如 saliency map）在时序数据中的潜力，例如标识治疗师应重点审查的视频框架，减少模型训练中的帧级标签工作量。
发现论文，激发创造
  • 临床数据可解释人工智能方法的实证比较：以创伤性脑损伤为例的案例研究

    利用结构化表格和时间序列生理数据实现了创伤性脑损伤 (TBI) 的短期和长期预测模型，使用六种不同的解释技术分析了局部和全局的预测模型，并对每种方法的优缺点进行了比较，发现 SHAP 是最稳定的，且保真度最高，但理解度低。

    Aug, 2022

  • 关于时间序列 XAI 方法的严格评估

    本文介绍了将之前主要用于图像和文本领域的可解释人工智能（XAI）方法应用于时间序列上的新方法。作者提出了一种方法来测试和评估各种对于时间序列的 XAI 方法，并介绍了新的验证技术用以融入时间维度。作者进一步进行了初步实验来评估所选 XAI 方法的解释质量，并证明了在初步实验中，SHAP 方法的工作表现很强，但是像 DeepLIFT，LRP 和 Saliency Maps 等方法却更适用于特定的架构。

    Sep, 2019

  • 基于梯度的时间序列解释方法：通过时空注意力网络

    探索使用基于 transformer 的时空关注网络 (STAN) 进行基于梯度的时间序列解释的可行性，并通过训练 STAN 模型在时间序列数据的全局和局部视图上进行视频分类，然后利用基于梯度的 XAI 技术 (如显著图) 识别时间序列数据的重要帧，并在使用四种相关医学活动的数据集进行实验中，STAN 模型展示了识别视频重要帧的潜力。

    May, 2024

  • 可解释的人工智能在临床和远程健康应用中的应用：关于表格和时间序列数据的调查

    本文综述了过去 5 年来的文献，阐述了对于健康领域中最适合在表格和时间序列数据中使用的 XAI 方法，旨在提供有效的解释方案给终端用户，强调临床验证、一致性评估、客观和标准化质量评估以及以人为中心的质量评估，同时指出现有方法的局限性以及领域的主要研究挑战。

    Sep, 2022

  • 预测中风后康复：基于可解释人工智能的深度学习、多模态数据和特征选择

    机器学习在预测中风后症状及其对康复的反应方面具有巨大潜力。本研究评估了对神经影像数据进行维度降低和特征选择的方法，并提出了使用卷积神经网络 (CNN) 对结合神经影像和表格数据的新方法。研究结果显示，即使数据集规模较小，结合神经影像和表格数据可实现高精度的中风后分类，可以进一步通过使用医院扫描仪中的图像来提高分类准确性。

    Oct, 2023

  • 评估用于新生儿时间序列数据的可解释 AI 方法 Grad-CAM 进行呼吸分类

    本文通过用户研究评估了 Grad-CAM 解释方法在新生儿通气数据时间序列分类的神经网络中的应用的感知有用性，揭示了实现真实透明度的困难以及许多参与者希望获得更深入解释的愿望。

    May, 2024

  • QXAI: 可解释的人工智能框架用于患者监测系统中的定量分析

    使用人工智能技术，特别是可解释的 AI (QXAI) 框架，通过深度学习模型来预测病人的生理活动并监测生命体征，提供全局和局部解释，为决策者提供可靠依据。(Translation: By utilizing Artificial Intelligence techniques, especially the Explainable AI (QXAI) framework, this study predicts patients' physical activities and monitors vital signs through deep learning models, providing global and local explanations to assist decision-makers.)

    Sep, 2023

  • 时间序列分类中借鉴图像突出方法的 XAI

    本文提出了一种基于深度神经网络的师生架构（蒸馏模型），用于在时间序列分类任务中提供可解释性。该方法通过将时间序列转换为 2D 图形，并应用图像高亮方法（如 LIME 和 GradCam），使预测结果可解释。同时，该方法在与基准模型竞争时提供了更高的准确性，代价是增加了训练时间。

    Nov, 2023

  • 可解释 AI 中基于梯度的特征归因：技术综述

    对基于梯度的解释方法进行了系统的探索和分类，并介绍了技术细节的实质和算法的演化，同时提出了使用人工和定量评估来衡量算法性能的挑战，为研究人员提供了对最新进展和相关缺点的了解，并激发了未来解决这些问题的兴趣。

    Mar, 2024

  • 定量评估显著性方法：实验研究

    本文基于对解释人工智能（XAI）的准确定义和公正衡量标准缺失的讨论，提出了一种广泛的实验研究，重点关注解释方法的忠实度、本地化、假阳性、敏感度检查和稳定性。实验结果表明，在当前所有方法中，梯度加权类激活映射（Grad-CAM）和随机输入抽样解释（RISE）在大多数指标上表现良好。另外，本文还提出了一种筛选指标的方法，以诊断模型分类基础，并探讨了当前指标所忽略的测量因素。

    Dec, 2020