Feb, 2024

走向新的可解释人工智能：使用证据的假设驱动决策支持方法

PDF
TL;DR通过权重证据（WoE）框架生成正负两方面的证据来支持或反驳假设，本研究描述和评估了一种基于假设驱动的可解释人工智能（XAI）的方法，并通过人类行为实验表明该方法提高了决策准确性、减少对推荐驱动方法和仅有 AI 解释的基准的依赖，但与推荐驱动方法相比在依赖性不足方面稍有增加，并进一步显示参与者使用我们的假设驱动方法与两个基准方法有着实质性的不同。
发现论文，激发创造
  • 可解释的人工智能已死，长命可解释的人工智能！基于假设的决策支持

    本篇论文主张从现有的可解释人工智能 (XAI) 模型转变到基于评价的人工智能 (Evaluative AI) 以减轻提供推荐的对人类决策制定的限制和不对人类决策制定的认知过程考虑不足带来的问题，并更好地利用人类决策制定的专业知识。

    Feb, 2023

  • 论述型可解释人工智能：一项调查

    本文综述了利用计算论证方法建立的可解释 AI 方法，重点关注其不同类型的解释，使用的不同模型，不同交互方式和不同的论证框架。此外，我们还规划了未来的发展方向。

    May, 2021

  • 可解释人工智能在人工智能决策中的应用的 Meta 分析

    这篇论文通过对 Explainable AI 领域的研究进行统计元分析，得出了 Explainable AI 对于用户决策性能有积极的统计效应，但是并未表明解释对用户的决策性能产生了任何影响，有利于今后研究基于 AI 的非人类决策中人类因素的影响。

    May, 2022

  • 面向解释性人工智能的全面人本评估框架

    通过在解释性人工智能（XAI）中引入用户中心评估框架，我们希望综合评估方法，总结解释属性，建立相互关系，并分类度量这些属性，以期为 XAI 评估的人本标准化做出贡献。

    Jul, 2023

  • 以解释为基础的决策：关于可解释人工智能在辅助决策中的角色的人类中心评估

    最近的实证研究调查了可解释人工智能对人工智能决策的影响，识别了挑战并提出未来的研究方向。

    Dec, 2023

  • 可解释人工智能分析和设计的多组件框架

    这篇论文讨论了符合科学历史的可解释人工智能 (XAI) 的框架问题，其原因追溯至现代机器学习（尤其是深度和强化学习）和对创造值得信赖的 AI 系统的关注，它的五个级别框架是 XAI 的关键组成部分。

    May, 2020

  • 可解释人工智能方法：一项调查

    该研究演示了可解释人工智能的多种方法，并与信用违约预测等任务进行了比较，提出了定量解释性的有意义见解，为开发负责任或以人为中心的 AI 系统提供方向和未来研究方向，有助于在高风险应用中采用 AI。

    Jan, 2021

  • 面向人类认知水平的反事实解释实验设计（XAI）

    使用 Bloom's 分类法作为用户的认知能力测量模型，在讲解生成的过程中采用反事实解释为媒介，结合用户反馈，验证讲解在每个认知层次上的理解水平，并据此改进讲解的生成方法。

    Oct, 2022

  • 一种生成带有 XAI 地面真实性数据集的方法，以评估图像模型的新方法

    本研究提出了一种生成具有真实标准数据集的新方法来衡量可解释人工智能的解释质量，并通过实验证明了该方法的正确性。

    Feb, 2023

  • 基于领域驱动 XAI 方法的金融时间序列预测 AI 系统良好实践假设

    机器学习和深度学习在金融预测中越来越普遍，但是这些复杂模型缺乏透明度和可解释性，在金融等敏感领域使用具有挑战性。本文探讨了在金融领域中应用可解释性人工智能的好方法，强调数据质量、面向特定人群的方法、数据属性的考虑以及解释的稳定性的重要性。这些实践旨在应对金融行业的独特挑战和要求，并指导有效的可解释性人工智能工具的开发。

    Nov, 2023