Jan, 2022

从个人经验到量化评估方法：评估可解释AI的系统综述

HTML
PDF
TL;DR文章讨论了机器学习模型解释性和可解释性的多方面问题，并提出了12个概念性属性，如紧凑性和正确性来全面评估解释的质量。文章还提供了定量XAI评估方法的广泛概述，以及提供了创新的库和方法帮助研究人员和从业者彻底验证、基准测试和比较新的和现有的XAI方法。
发现论文，激发创造
  • 解释解释: 机器学习的可解释性概述

    有关解释人工智能的最佳实践和挑战的调查表明，现有的解释方法尤其是对于深度神经网络而言不足以提供算法的公正性、数据偏见和性能。

    May, 2018

  • 可解释人工智能：系统综述

    这篇论文从四个主要聚类方向：综述文章、理论和概念、方法及其评估，总结了可解释人工智能领域的最新技术水平并提出了未来研究方向。

    May, 2020

  • 解释方法质量评估标准的元调查

    通过文献调研和元分析，我们建议采用适当的信任作为衡量主观评价标准结果的标准，并提出了一个解释质量方面的模型，其中类似定义的标准被分组，并与三个识别出的质量方面相关联：模型、解释和用户。最后我们提出了一个包含四个常用标准（群）的模型，涵盖了解释质量的所有方面: 性能、适当的信任、解释满意度和忠实度。该模型可以作为比较评估的图表，以创建更具可推广性的解释质量研究。

    Mar, 2022

  • 我们需要另一种可解释的AI方法吗？将事后可解释性评估方法统一为一种交互式和多维基准

    提出了一种名为Compare-xAI的基准测试框架，该框架统一了xAI算法的所有排他性功能测试方法，帮助研究人员、从业人员和普通人解释模型结果，同时提供了可互动的用户界面。

    Jun, 2022

  • 可解释人工智能中的元评估问题: 使用MetaQuantus识别可靠评估器

    本文提出了一个元评估框架MetaQuantus，以较可靠的方式鉴别不同解释质量度量方法在特定的解释情境下的性能，包括其对噪声的鲁棒性和对随机性的反应性，并通过一系列实验展示了其有效性。该工具可用于验证和基准测试新建构的度量衡，从而为建立可靠的方法提供清晰的、理论上的指导，以促进Explainable AI领域中的标准化和可重复性。

    Feb, 2023

  • 可解释性方法评估的实验研究

    本文比较了14个不同的评估指标在9种最先进的XAI方法和3种用作参考的虚拟方法（如随机显著性图）上的应用结果，结果表明其中一些指标会产生高度相关的结果，还展示了基准超参数变化对评估指标值的显著影响，最后使用虚拟方法评估指标的可靠性及其排名方面的限制。

    May, 2023

  • 可解释人工智能需要正式的解释正确性概念

    本研究探讨了可解释人工智能(XAI)在高风险领域（如医学）中的应用难点，指出现有XAI方法无法确保机器学习模型决策的可理解性和质量控制。研究发现，流行的XAI方法在属性重要性时无法可靠地关联输入特征与预测目标，建议研究者应首先明确待解决的问题并基于此设计方法，从而实现理论可验证的解释正确性概念。

    Sep, 2024

  • 可解释人工智能需要规范的解释正确性概念

    本研究探讨了当前可解释人工智能（XAI）方法在高风险领域中的不足，指出缺乏对解释正确性的明确标准，使其难以提供有效的质量控制。作者提出应首先明确所要解决的问题，然后再设计相应的方法，以确保可解释性的理论验证和客观评估，从而提升XAI的实际应用价值。

    Sep, 2024

  • 全面的可解释人工智能指南：从经典模型到大语言模型

    本书解决了人工智能系统透明性和可解释性日益增长的需求，提供了从基础概念到高级方法的全面指导。通过探索传统模型的可解释性及深度学习架构的挑战，提供了实际技术和案例研究，展示了可解释人工智能在医疗、金融和政策制定中的重要影响。

    Dec, 2024

  • 统一框架评估可解释人工智能方法在实际应用中的有效性与透明性

    本研究解决了现有可解释人工智能（XAI）技术在不同实际应用中评估标准不足的问题。我们提出了一个统一的XAI评估框架，结合定量和定性标准，系统性地评估AI模型生成的解释的正确性、可解释性、稳健性、公平性和完整性。通过在医疗、金融、农业和自动化系统中的案例研究，该框架展示了其相关性和广泛性，增强了AI系统在多个领域的透明度和可靠性。

    Dec, 2024