Mar, 2024

解释性地理空间机器学习模型的集成框架

PDF
TL;DR分析空间变化效应在地理分析中至关重要，然而由于地理空间数据的复杂性和非线性，准确捕捉和解释这种变异性是具有挑战性的。本文介绍了一个集成框架，将局部空间加权方案、可解释人工智能（XAI）和先进的机器学习技术相结合，以弥合传统地理分析模型和通用机器学习方法之间的差距。通过对合成数据集的测试，验证了该框架在地理回归和分类中通过阐明空间变异性，提高了预测的解释性和准确性。它显著提升了预测精度，为理解空间现象提供了一种新的方法。
spatial varying effectgeographic analysisexplainable artificial intelligencemachine learningspatial phenomena
发现论文，激发创造
  • GeoExplainer: 空间建模情境化和报告生成的可视化分析框架

    GeoExplainer 是一个可视化分析框架，支持分析人员创建解释性文档，总结和联系他们的空间分析结果。本文以建模 2016 年美国总统选举投票决定因素为案例研究，展示了我们的框架。

    Aug, 2023

  • 扩展基于 CAM 的遥感图像分割的可解释人工智能方法

    通过适应最近的 XAI 分类算法并将它们用于多类别图像分割，本文着重于对高分辨率卫星图像中的建筑物分割的研究，引入了一种基于 “熵” 来衡量模型不确定性的新的 XAI 评估方法和指标，以此来提供透明度和可解释性，为图像分割领域的 XAI 研究和遥感应用铺平道路。

    Oct, 2023

  • 可解释人工智能分析和设计的多组件框架

    这篇论文讨论了符合科学历史的可解释人工智能 (XAI) 的框架问题，其原因追溯至现代机器学习（尤其是深度和强化学习）和对创造值得信赖的 AI 系统的关注，它的五个级别框架是 XAI 的关键组成部分。

    May, 2020

  • 走向可解释的移动数据科学人工智能

    本文介绍了我们关于可解释的移动数据科学 XAI 方案的持续研究成果，重点是通过使用时空图神经网络和反事实方法从密集轨迹数据中学习可解释模型，如车辆和船舶的 GPS 轨迹，并回顾了现有的 GeoXAI 研究，主张采用以人为本的方法进行全面的解释，并概述了通向移动数据科学的 XAI 研究路径。

    Jul, 2023

  • T-Explainer: 基於梯度的模型无关解释性框架

    可解释人工智能（Explainable Artificial Intelligence）通过提供准确、一致且稳定的解释，解决机器学习中黑盒模型的透明度问题，其中基于泰勒展开的 T-Explainer 成为了一种有效的特征归因方法。

    Apr, 2024

  • KAXAI: 知识分析与可解释人工智能集成环境

    该论文描述了一个整合 AutoML、XAI 和合成数据生成的系统的设计，从而为用户提供了优良的用户体验设计，使他们能够利用机器学习的力量而抽象其复杂性并提供高可用性。论文中介绍了两种新型分类器，逻辑回归森林和支持向量树，用于提高模型性能，并在糖尿病数据集上实现了 96% 的准确率和调查数据集上的 93% 准确率。此外，论文还介绍了基于模型的局部解释器 MEDLEY，并将其与 LIME、Greedy 和 Parzen 进行了评估。论文还介绍了基于 LLM 的合成数据生成、基于库的数据生成和通过 GAN 增强原始数据集的方法。在合成数据方面的研究结果表明，通过 GAN 增强原始数据集是生成可靠合成数据的最佳方法，这一点通过 KS 测试、标准差和特征重要性得到了证明。作者还发现 GAN 在定量数据集上表现最好。

    Dec, 2023

  • 利用可解释的人工智能来提高神经网络的性能

    本研究提出了一种重新训练流程，使用 SHapley Additive explanations 值，从 XAI 入手并利用最先进的技术来增加模型的透明度和可信度，在人数统计场景和图像分类数据集上进行了实验验证，结果表明使用 SHAP-based 重新训练方法比使用相等加权训练方法更有效，分别提高了 4% 和 3% 的准确率。

    Oct, 2022

  • 可解释人工智能在地球系统科学中的应用

    近年来，人工智能迅速加速其影响力，如果得到恰当利用，将促进地球系统科学的发展。解释性人工智能（XAI）提供了一套强大的工具，可以使模型更加透明。本文旨在为地球系统科学学者提供对 XAI 的基本理解，作为未来研究进展的基础，并鼓励地球系统科学专业人员接受人工智能的好处，克服解释性不足带来的偏见。希望通过融合 AI 和领域特定知识的可解释性混合方法来增强人工智能在地球系统科学中的实用性。

    Jun, 2024

  • 机器学习模型中的统一解释：一种扰动方法

    面向可解释人工智能（XAI）的高速范式转变已在近年来出现。高度复杂的机器学习（ML）模型在许多智能任务中蓬勃发展，而问题开始从传统的有效性度量转向更深层次的问题：该模型告诉我关于我的数据什么，它是如何得出这些结论的？XAI 和建模技术之间的不一致可能对这些解释性方法的效力产生质疑。为了解决这些问题，我们提出了一种针对流行的 XAI 的模型不可知方法 SHapley Additive exPlanations（Shap）进行系统的扰动分析。我们设计了一些算法，在动态推理的设置下生成相对特征重要性，这些设置针对一套流行的机器学习和深度学习方法，以及允许我们量化静态情况下生成解释的质量的度量指标。我们提出了特征重要性方法论的分类体系，度量了一致性，并观察了几个数据集中解释模型之间的可量化相似性。

    May, 2024

  • explAIner：一种交互和可解释的机器学习视觉分析框架

    该论文提出了一个交互式和可解释的机器学习框架，同时结合了一个迭代的 XAI 管道和八个全局监控机制，通过可视化分析系统 explAIner 在 TensorBoard 环境下执行，增强了用户了解机器学习模型以及发现其局限性、优化和更新的能力，同时通过用户研究证实该框架可以帮助用户获得更详尽的信息和发现更多扩展机会。

    Jul, 2019