草地监测中的可解释人工智能：提升模型性能和领域适应性

Dec, 2023

草地监测中的可解释人工智能：提升模型性能和领域适应性

Explainable AI in Grassland Monitoring: Enhancing Model Performance and Domain Adaptability

Shanghua Liu, Anna Hedström, Deepak Hanike Basavegowda, Cornelia Weltzien, Marina M.-C. Höhne

TL;DR草原监测的可扩展性以及可提供多样生态系统服务的特性使其具备了高生物多样性。然而，自动识别标志性植物存在困难，这阻碍了大规模草原监测的实现。本文深入探讨了这些挑战，具体关注了迁移学习和可解释人工智能（XAI）在草原监测中的应用，突出了 XAI 在该领域的新颖性。我们分析了各种迁移学习方法，以填补一般和草原专用数据集之间的分布差异。此外，我们展示了可解释人工智能技术如何揭示模型的领域适应能力，并通过定量评估来评估模型在准确地围绕感兴趣的对象中心化相关输入特征方面的能力。本研究为通过迁移学习增强模型性能和通过可解释人工智能衡量领域适应性做出了有价值的贡献，在农业社区内具有广泛应用的重要前景。

Abstract

grasslands are known for their high biodiversity and ability to provide multiple ecosystem services. Challenges in automating the identification of indicator plants are key obstacles to large-scale grassland monitoring. These challenges stem from the scarcity of extensive datasets, the

grasslands automating identification transfer learning explainable artificial intelligence (xai)domain adaptability

发现论文，激发创造

OAK4XAI: 面向数字农业的开箱即用可解释人工智能模型

本文研究利用可解释人工智能 (XAI) 框架 (OAK4XAI) 中的知识图谱模型和本体设计来解决数字农业数据挖掘中由于背景知识不足而导致的解释困难问题，并且建立了适用于农业和计算领域的农业计算本体 (AgriComO) 以解释挖掘出的知识。

Sep, 2022

可解释人工智能 (XAI) 中的机遇与挑战：一份调查

本文介绍了深度学习中可解释人工智能技术（XAI），提出了技术分类法并介绍了方法学、范畴和应用层次等主要原则，旨在建立可信、可解释和自说明的深度学习模型。此外，通过八种不同的可解释人工智能算法对图像数据进行了评估，讨论了这种方法的局限性，并提出了未来改进的潜在方向。

Jun, 2020

可解释人工智能在地球系统科学中的应用

近年来，人工智能迅速加速其影响力，如果得到恰当利用，将促进地球系统科学的发展。解释性人工智能（XAI）提供了一套强大的工具，可以使模型更加透明。本文旨在为地球系统科学学者提供对 XAI 的基本理解，作为未来研究进展的基础，并鼓励地球系统科学专业人员接受人工智能的好处，克服解释性不足带来的偏见。希望通过融合 AI 和领域特定知识的可解释性混合方法来增强人工智能在地球系统科学中的实用性。

Jun, 2024

一种生成带有 XAI 地面真实性数据集的方法，以评估图像模型的新方法

本研究提出了一种生成具有真实标准数据集的新方法来衡量可解释人工智能的解释质量，并通过实验证明了该方法的正确性。

Feb, 2023

扩展基于 CAM 的遥感图像分割的可解释人工智能方法

通过适应最近的 XAI 分类算法并将它们用于多类别图像分割，本文着重于对高分辨率卫星图像中的建筑物分割的研究，引入了一种基于 “熵” 来衡量模型不确定性的新的 XAI 评估方法和指标，以此来提供透明度和可解释性，为图像分割领域的 XAI 研究和遥感应用铺平道路。

Oct, 2023

视觉解释的可解释人工智能基准

深度学习算法的崛起在计算机视觉任务中取得了重大进展，但它们的 “黑匣子” 性质引发了对可解释性的关注。可解释人工智能（XAI）作为一个重要的研究领域出现，旨在打开这个 “黑匣子”，并揭示人工智能模型的决策过程。视觉解释作为可解释人工智能的一个子集，通过突出显示输入图像中的重要区域，为处理视觉数据的人工智能模型的决策过程提供直观的见解。我们提出了一个 XAI 基准，其中包括来自不同主题的数据集集合，为图像提供了类别标签和相应的解释注释。我们引入了一个全面的视觉解释流程，在这个流程中整合了数据加载、预处理、实验设置和模型评估过程。此结构使研究人员能够公平比较各种视觉解释技术。此外，我们对视觉解释的超过 10 种评估方法进行综合评述，以帮助研究人员有效利用我们的数据集合。为了进一步评估现有的视觉解释方法的性能，我们使用各种以模型为中心和以真实标注为中心的评估指标在选定的数据集上进行实验。我们希望这个基准可以推动视觉解释模型的进步。这个 XAI 数据集合和用于评估的易于使用的代码公开可访问。

Oct, 2023

基于实例的可解释 AI 及其在遥感图像分类中的应用

提出了一种可验证深度学习模型准确性的可解释人工智能方法（XAI）——“我知道什么（WIK）”，通过在遥感图像分类任务中演示一个与要推理的输入数据类似的训练集实例来提供附加信息。该方法能够检查所选示例数据是否足够支持每个推断以及训练数据集是否具有不同于输入数据特征分布的功能，其可用于各种分类和回归等机器学习任务。

Feb, 2023

协调解释性要求的七个挑战

本文回顾了最近关于可解释 AI（XAI）的技术文献，并认为基于我们当前对该领域的理解，实践中使用 XAI 技术需要考虑特定业务应用程序的利益相关者的具体需求。

Aug, 2021

应对生物数据变异的深度学习模型解释挑战

通过评估基准数据集上的模型并将其应用于真实世界数据，本研究探讨了在生物数据领域应用机器学习模型的挑战以及解释性方法的评估，以检测谷物疾病和损坏。

Jun, 2024

寻找合适的 XAI 方法 -- 评估和排名可解释气候科学人工智能方法指南

本研究介绍了 XAI 在气候研究中的应用，并评估了不同的解释属性，建立在先前的工作和训练多层感知器 MLP 和卷积神经网络 CNN 进行预测，我们发现 Integrated Gradients，Layer-wise relevance propagation 和 InputGradients 表现得很好。

Mar, 2023