Aug, 2024

面向符号化可解释人工智能——通过人类可理解的特征之间逻辑关系进行解释

HTML
PDF
TL;DR本研究针对传统可解释人工智能(XAI)方法在提供解释方面存在的单一抽象层次局限，提出了符号化可解释人工智能框架。该框架通过输入特征间的逻辑关系表达符号化查询，揭示模型预测背后的抽象推理过程。研究结果展示了该框架在自然语言处理、视觉和量子化学等领域的有效性，有助于提升用户对模型决策过程的理解。
发现论文，激发创造
  • 解释解释: 机器学习的可解释性概述

    有关解释人工智能的最佳实践和挑战的调查表明，现有的解释方法尤其是对于深度神经网络而言不足以提供算法的公正性、数据偏见和性能。

    May, 2018

  • 自然对话中的机器学习模型解释：走向会话型可解释人工智能代理

    本文介绍了如何将可解释人工智能（XAI）应用于对话代理中，通过使用自然语言理解和生成组件来理解用户的信息需求并提供相应的解释。作者通过综合调查文献，提出了一份全面的可解释人工智能问题列表及相应的解释方法。

    Sep, 2022

  • 用户中心XAI的系统方法分类学：一项调查

    本文提出一种基于系统论的统一、包容、用户中心分类法，旨在解决现有的以专家为中心的可解释人工智能方法的不足之处，以此评估适用于不同用户类型的解释方法的适当性和性能。

    Mar, 2023

  • 可解释人工智能的范畴基础：结构和语义的统一形式化

    通过范畴论的框架，本文首次提出了统一的解释型人工智能理论，展示了如何使用所引入的理论对当前文献中研究的所有主要XAI系统进行分类，这一XAI基础理论方法可为未来的研究提供框架和指导。

    Apr, 2023

  • 可解释人工智能（XAI）2.0：开放挑战和跨学科研究方向的宣言

    通过提出27个开放问题分类为九类，本文不仅强调了XAI及其在现实世界中的应用的进展，也解决了XAI中的挑战，并强调了更广泛的视角和协作努力的需求，以推动XAI的发展和贡献于其持续成功。

    Oct, 2023

  • 基于概念的可解释人工智能综述

    通过对C-XAI方法进行 thorough review，本文提供了分类体系、选择指南和常见评估策略，旨在促进可解释人工智能领域的发展。

    Dec, 2023

  • 解释问题而非辩解

    解释性人工智能（XAI）是一个年轻但非常有前景的研究领域。在本文中，我们将XAI领域内纷繁复杂的目标分为两种互补的文化：人/价值导向的解释（蓝色XAI）和模型/验证导向的解释（红色XAI）。我们还指出，红色XAI领域目前尚未得到充分开发，其中蕴藏着巨大的机遇和重要研究潜力，以确保人工智能系统的安全。最后，我们提出了该领域中有希望挑战面的展望。

    Feb, 2024

  • 剔除 XAI 中的 X：关于可理解人工智能的呼吁

    深度神经网络的可解释性问题可以通过采用不同的科学解释模型，避免当前解释模糊性而产生的困惑，更有助于用“可理解的人工智能”标签避免XAI的混淆。

    Mar, 2024

  • 限距解释：理论基础与高效实施

    机器学习、可解释人工智能、基于逻辑的可解释性、距离限制解释和扩展性是该研究论文的主要关键词和研究领域，研究了用于计算和枚举大量输入的逻辑解释器性能扩展的新算法。

    May, 2024

  • 可解释人工智能需要规范的解释正确性概念

    本研究探讨了当前可解释人工智能（XAI）方法在高风险领域中的不足，指出缺乏对解释正确性的明确标准，使其难以提供有效的质量控制。作者提出应首先明确所要解决的问题，然后再设计相应的方法，以确保可解释性的理论验证和客观评估，从而提升XAI的实际应用价值。

    Sep, 2024