提高移动数据科学中的可解释性：方法结合

Dec, 2023

提高移动数据科学中的可解释性：方法结合

Enhancing Explainability in Mobility Data Science through a combination of methods

Georgios Makridis, Vasileios Koukos, Georgios Fatouros, Dimosthenis Kyriazis

TL;DR在移动数据科学领域中，本文综合了关键的可解释性技术，如 LIME、SHAP、saliency maps、attention mechanisms、direct trajectory visualization 和 PFI，来揭示轨迹数据模型的空间 - 时间运动，并调查了用户偏好。

Abstract

In the domain of mobility data science, the intricate task of interpreting models trained on trajectory data, and elucidating the spatio-temporal movement of entities, has persistently posed significant challenge

mobility data science xai techniques trajectory data interpretability user preferences

发现论文，激发创造

可解释人工智能方法评论：SHAP 和 LIME

这篇论文探讨解释的可解释人工智能（XAI）方法，特别是 SHapley 加性解释和局部可解释模型无关解释等两种使用广泛的方法，提出一个框架来解释它们的输出，强调它们的优缺点。

May, 2023

走向可解释的移动数据科学人工智能

本文介绍了我们关于可解释的移动数据科学 XAI 方案的持续研究成果，重点是通过使用时空图神经网络和反事实方法从密集轨迹数据中学习可解释模型，如车辆和船舶的 GPS 轨迹，并回顾了现有的 GeoXAI 研究，主张采用以人为本的方法进行全面的解释，并概述了通向移动数据科学的 XAI 研究路径。

Jul, 2023

如何选择一个解释器？一个基于应用的后续解释评估

提出了一种名为 XAI Test 的应用基准评估方法，旨在评估不同水平的信息提供对最终决策的影响，针对现实世界的欺诈检测任务进行了实验，并使用多种统计方法分析了三种热门解释器的影响。

Jan, 2021

机器学习模型中的统一解释：一种扰动方法

面向可解释人工智能（XAI）的高速范式转变已在近年来出现。高度复杂的机器学习（ML）模型在许多智能任务中蓬勃发展，而问题开始从传统的有效性度量转向更深层次的问题：该模型告诉我关于我的数据什么，它是如何得出这些结论的？XAI 和建模技术之间的不一致可能对这些解释性方法的效力产生质疑。为了解决这些问题，我们提出了一种针对流行的 XAI 的模型不可知方法 SHapley Additive exPlanations（Shap）进行系统的扰动分析。我们设计了一些算法，在动态推理的设置下生成相对特征重要性，这些设置针对一套流行的机器学习和深度学习方法，以及允许我们量化静态情况下生成解释的质量的度量指标。我们提出了特征重要性方法论的分类体系，度量了一致性，并观察了几个数据集中解释模型之间的可量化相似性。

May, 2024

机器学习模型的本地可解释模型无关 Shap 解释

提出了一种称为 LIMASE 的局部可解释模型无关 Shap 说明法，该方法使用 Shapley 值来解释任何模型的预测，提供局部和全局可解释的解释，解决子模块优化问题，为地区解释带来见解，并在与内核解释器相比计算更快。

Oct, 2022

临床数据可解释人工智能方法的实证比较：以创伤性脑损伤为例的案例研究

利用结构化表格和时间序列生理数据实现了创伤性脑损伤 (TBI) 的短期和长期预测模型，使用六种不同的解释技术分析了局部和全局的预测模型，并对每种方法的优缺点进行了比较，发现 SHAP 是最稳定的，且保真度最高，但理解度低。

Aug, 2022

关于时间序列 XAI 方法的严格评估

本文介绍了将之前主要用于图像和文本领域的可解释人工智能（XAI）方法应用于时间序列上的新方法。作者提出了一种方法来测试和评估各种对于时间序列的 XAI 方法，并介绍了新的验证技术用以融入时间维度。作者进一步进行了初步实验来评估所选 XAI 方法的解释质量，并证明了在初步实验中，SHAP 方法的工作表现很强，但是像 DeepLIFT，LRP 和 Saliency Maps 等方法却更适用于特定的架构。

Sep, 2019

定量描述 XAI 方法中相关特征的贡献

提出了一种简单而有用的代理，修改任何 XAI 特征排序方法的结果，以便考虑预测变量之间的依赖关系。该方法是模型不可知的，而且在存在共线性时计算每个预测变量在模型中的影响非常简单。

Apr, 2023

解释性地理空间机器学习模型的集成框架

分析空间变化效应在地理分析中至关重要，然而由于地理空间数据的复杂性和非线性，准确捕捉和解释这种变异性是具有挑战性的。本文介绍了一个集成框架，将局部空间加权方案、可解释人工智能（XAI）和先进的机器学习技术相结合，以弥合传统地理分析模型和通用机器学习方法之间的差距。通过对合成数据集的测试，验证了该框架在地理回归和分类中通过阐明空间变异性，提高了预测的解释性和准确性。它显著提升了预测精度，为理解空间现象提供了一种新的方法。

Mar, 2024

从 SHAP 得分到特征重要性得分

本文介绍了可解释人工智能（XAI）的核心目标，即根据预测结果赋予机器学习模型特征的相对重要性。通过对功能归属的精确计算，研究表明该任务是非常重要的，并且之前提出的一些公理化聚合代表了过去研究中探讨的多个权力指数示例。此外，本文探讨了如何将一些广泛使用的权力指数用作特征重要性评分，并提出了满足可解释人工智能的新颖特征重要性评分。最后，文章对最知名的权力指数在提出的指标方面进行了深入分析。

May, 2024