Aug, 2024

通过信念变更理论推进交互式可解释人工智能

HTML
PDF
TL;DR本研究解决了随着AI模型日益复杂，交互式可解释人工智能(XAI)方法的需求日增的问题。提出使用信念变更理论作为基础，为交互式XAI中的用户反馈整合提供了一种形式化框架，进而提出了一种新的基于逻辑的形式化方法来呈现人机共享的解释信息，促进了互动过程的透明性与责任感。此方法的应用可以更好地实现在现实场景中的解释与互动，具有较大潜在影响。
发现论文，激发创造
  • 标准化可解释性的必要性

    本研究的目的是对可解释性（Explainable AI，XAI）领域的现状提供一个视角，并提供解释性和可解释性的新定义，以开始标准化这个研究领域。研究提供了可解释性文献的概述和现有方法的概述，最后提供了不同可解释性方法的初步分类法，为未来的研究打开了大门。

    Oct, 2020

  • 帮助我帮助人工智能”：理解可解释性如何支持人工智能交互

    通过对鸟类识别应用程序的最终用户进行混合方法研究，我们发现参与者们希望获得实际有用的信息，以改善与人工智能的协作，尤其是需要参与者使用XAI解释以达到各种目的，包括校准信任、提高任务技能、改变他们的行为以提供更好的输入等

    Oct, 2022

  • 关于AI解决方案的可解释性: 跨领域调查

    该研究是对人工智能模型解释的广泛调查，发现解释决策和原因的不同方法和原因的异质性导致了个体解释框架。

    Oct, 2022

  • 用户中心XAI的系统方法分类学：一项调查

    本文提出一种基于系统论的统一、包容、用户中心分类法，旨在解决现有的以专家为中心的可解释人工智能方法的不足之处，以此评估适用于不同用户类型的解释方法的适当性和性能。

    Mar, 2023

  • 通过辩论交流解决冲突的交互式解释

    本研究针对可解释人工智能（XAI），提出了一种计算论证的交互式解释方法（AXs），以解决模型输出与人类决策之间的不一致性。实验结果表明，AXs在XAI中可以有效地解决不当行为和决策冲突。

    Mar, 2023

  • 重新思考AI的可解释性与合理性

    本文研究机器解释符合人类交流规范、支持人类推理过程并满足人类对人工解释的需求的重要性，指出仅仅优化和评估机器解释的合理性（Explanation Plausibility）对于提高模型的可理解性、透明性与可信度是有害无益的，因此提出了一些可行的评估方法，并重点强调了可解释性特定的评估目标的重要性。

    Mar, 2023

  • 可解释人工智能的范畴基础：结构和语义的统一形式化

    通过范畴论的框架，本文首次提出了统一的解释型人工智能理论，展示了如何使用所引入的理论对当前文献中研究的所有主要XAI系统进行分类，这一XAI基础理论方法可为未来的研究提供框架和指导。

    Apr, 2023

  • 可解释人工智能（XAI）2.0：开放挑战和跨学科研究方向的宣言

    通过提出27个开放问题分类为九类，本文不仅强调了XAI及其在现实世界中的应用的进展，也解决了XAI中的挑战，并强调了更广泛的视角和协作努力的需求，以推动XAI的发展和贡献于其持续成功。

    Oct, 2023

  • 增量式可解释性人工智能：逐步解释的可记忆理解

    通过利用人类认知能力渐进地接收更多细节来提供更详细的解释，通过提供基础+递增因素来帮助用户阅读和记住更准确的解释，从而改善可理解性和可记忆性，并评估Incremental XAI相较于基准解释方法在忠实度、可记忆性和可理解性方面的性能。

    Apr, 2024

  • 通过信念变化理论推进互动可解释人工智能

    本研究解决了在日益复杂的人工智能模型中互动可解释性方法的不足。提出了将信念变化理论作为基础，用于模型化用户反馈与数据驱动分类器的逻辑表示的整合，进而形成了一种新颖的互动解释框架。研究表明，该方法可增强透明度与问责制，同时为真实世界的互动可解释性提供了实用可行的视角。

    Aug, 2024