May, 2024

为何解释失败？XAI 中失败的分类和讨论

PDF
TL;DR机器学习解释的复杂性和局限性对解释的解读产生了多重影响，本研究对现行可解释人工智能方法的局限性进行了系统调查，并提出了一种分类框架来揭示解释失败的复杂性。
发现论文，激发创造
  • 解释解释：机器学习的可解释性概述

    有关解释人工智能的最佳实践和挑战的调查表明，现有的解释方法尤其是对于深度神经网络而言不足以提供算法的公正性、数据偏见和性能。

    May, 2018

  • 透过终端用户启发式设计超越 XAI 算法边界

    本研究介绍了四个新的可解释人工智能技术问题，这些问题围绕设计和评估算法，并呼吁建立基于人类需求的可解释人工智能技术开发研究范式，以保证人工智能在关键任务中的负责任使用。

    Aug, 2022

  • 解释并非技术术语：XAI 中的歧义问题

    本研究探讨了可解释性人工智能（XAI）中说明的特征和其效用评估，强调了说明的功能角色、用户知识状态以及生成说明所需的信息的要求，并定义了 XAI 领域的重要下一步：建立指导和基础系统生成说明效用的度量标准，以避免 XAI 可能带来的对系统的信任而没有建立其可靠性。

    Jun, 2022

  • 可解释化人工智能并未提供最终用户所要求的解释

    阐释可解释的人工智能（XAI）技术应用于复杂模型的机器学习系统中，以增强其透明度与验证，从而取得用户的信任。然而，XAI 在部署上存在局限性，因此透明度和严格验证更适合在获取人工智能系统信任时使用。

    Jan, 2023

  • 使用形式化方法证明 XAI 神话 -- 初步结果

    这篇研究论文探讨了可解释人工智能的重要性以及存在的困境和误解，通过形式化方法来反驳这些误解并提出实际有效的替代方法。

    May, 2023

  • 用户中心 XAI 的系统方法分类学：一项调查

    本文提出一种基于系统论的统一、包容、用户中心分类法，旨在解决现有的以专家为中心的可解释人工智能方法的不足之处，以此评估适用于不同用户类型的解释方法的适当性和性能。

    Mar, 2023

  • 可解释人工智能中的对抗攻击和防御：一项调查

    该论文对 50 多篇与机器学习模型解释袭击和公正性度量有关的研究进行了简要综述，并讨论了如何防御攻击和设计稳健的解释方法。该论文提出了现有 XAI（可解释人工智能）不安全因素的列表，并概述了 Adversarial XAI（AdvXAI）的新兴研究方向。

    Jun, 2023

  • 剔除 XAI 中的 X：关于可理解人工智能的呼吁

    深度神经网络的可解释性问题可以通过采用不同的科学解释模型，避免当前解释模糊性而产生的困惑，更有助于用 “可理解的人工智能” 标签避免 XAI 的混淆。

    Mar, 2024

  • 用户视角下的可解释人工智能（XAI）- 先前文献综述和未来研究问题解析

    通过系统文献综述研究 AI 解释的四个维度 - 格式、完备性、准确性和时效性，以及 XAI 效应的五个维度 - 信任、透明度、可理解性、可用性和公正性，并且针对未来研究议程提出了研究问题和可能的研究方向，从而开发了一个综合框架，并研究了其对用户行为的影响。

    Nov, 2022

  • 限距解释：理论基础与高效实施

    机器学习、可解释人工智能、基于逻辑的可解释性、距离限制解释和扩展性是该研究论文的主要关键词和研究领域，研究了用于计算和枚举大量输入的逻辑解释器性能扩展的新算法。

    May, 2024