Jul, 2022

XInsight: 因果推理视角下的可解释数据分析

PDF
TL;DR本研究首次提出了一种透明且可解释的数据分析方法，称为 eXplainable Data Analysis (XDA)，该方法通过提供定性和定量的因果和非因果语义解释，显著提高了人类对数据分析结果的理解和信心，并为精确数据解释和决策提供了帮助。为此，我们设计了一个名为 XInsight 的通用框架来提取因果图，将因果原语转换为 XDA 语义，并量化每个解释对数据事实的定量贡献。实验证明 XInsight 具有高度的可行性。
exploratory data analysisxinsightexplainable data analysiscausal semanticsquantitative explanations
发现论文，激发创造
  • 探索从业者对训练数据归因解释的见解

    解释性人工智能旨在向人类提供对不透明模型推理的深入理解，是一个跨学科的领域。本文通过对 10 名实践者的访谈，确认了在实践中训练数据质量通常是高性能模型的最重要因素，并且模型开发者主要依靠自己的经验来策划数据。最终用户期望解释能够增强他们与模型的交互，并且并不一定将训练数据作为解释的首要选择。在参与者中，发现训练数据归因解释并不为人熟知，因此也未被使用。我们敦促研究社区从人机协作的角度关注训练数据归因技术的实用性，并扩大对其评估以反映实践中的常见用例。

    Oct, 2023

  • 走向可解释人工智能（XAI）：数据挖掘视角

    通过数据挖掘方法和应用的角度，对深度神经网络进行可解释人工智能（XAI）的综合、数据中心的研究，并将现有工作分为三类：对深层模型的解释、对训练数据的影响以及领域知识的洞察。

    Jan, 2024

  • CALIME：基于因果关系的本地可解释模型无关解释

    本篇论文提出一种新颖的扩展方法，将因果关系显式编码进生成输入实例的数据以解释增加信任度和帮助用户评估解释质量的 XAI 方法，并通过实验表明该方法对于拟合黑匣子和解释稳定性均达到了比初始方法更优越的表现。

    Dec, 2022

  • 视觉解释的可解释人工智能基准

    深度学习算法的崛起在计算机视觉任务中取得了重大进展，但它们的 “黑匣子” 性质引发了对可解释性的关注。可解释人工智能（XAI）作为一个重要的研究领域出现，旨在打开这个 “黑匣子”，并揭示人工智能模型的决策过程。视觉解释作为可解释人工智能的一个子集，通过突出显示输入图像中的重要区域，为处理视觉数据的人工智能模型的决策过程提供直观的见解。我们提出了一个 XAI 基准，其中包括来自不同主题的数据集集合，为图像提供了类别标签和相应的解释注释。我们引入了一个全面的视觉解释流程，在这个流程中整合了数据加载、预处理、实验设置和模型评估过程。此结构使研究人员能够公平比较各种视觉解释技术。此外，我们对视觉解释的超过 10 种评估方法进行综合评述，以帮助研究人员有效利用我们的数据集合。为了进一步评估现有的视觉解释方法的性能，我们使用各种以模型为中心和以真实标注为中心的评估指标在选定的数据集上进行实验。我们希望这个基准可以推动视觉解释模型的进步。这个 XAI 数据集合和用于评估的易于使用的代码公开可访问。

    Oct, 2023

  • 可解释人工智能中因果关系的作用

    通过研究文献，我们发现因果关系和可解释人工智能 (XAI) 是紧密联系的，彼此之间存在三种关系视角：缺乏因果关系限制了当前人工智能与可解释人工智能方法的发展，理想的解释形式的探索，以及因果关系作为可解释人工智能的先导，并通过从因果关系中借用概念、利用反事实以及将因果模型作为自我解释等方式进行研究。通过提供相关软件解决方案，我们为自动化因果任务提供了补充分析，并强调了因果关系和可解释人工智能领域之间的潜在领域桥梁和可能的限制。

    Sep, 2023

  • 剔除 XAI 中的 X：关于可理解人工智能的呼吁

    深度神经网络的可解释性问题可以通过采用不同的科学解释模型，避免当前解释模糊性而产生的困惑，更有助于用 “可理解的人工智能” 标签避免 XAI 的混淆。

    Mar, 2024

  • 用于评估 XAI 方法的数据代表真实解释

    本文介绍了使用规范方程代表解释的方法，以解决可解释的人工智能和可解释的机器学习方法面临的挑战，并提出使用合成数据来评估模型准确性的方法。

    Nov, 2020

  • 一种生成带有 XAI 地面真实性数据集的方法，以评估图像模型的新方法

    本研究提出了一种生成具有真实标准数据集的新方法来衡量可解释人工智能的解释质量，并通过实验证明了该方法的正确性。

    Feb, 2023

  • 强化近似探索式数据分析

    这篇论文提出了一种基于深度强化学习的框架，旨在优化采样策略以保持数据分析和洞察流，同时减少交互延迟，通过在 3 个真实数据集上进行评估，证明了该技术相对于基线方法能够保留原始的洞察生成过程。

    Dec, 2022

  • 解决谜题：推导深度网络的最优解释

    通过整合不同的解释方法并利用非线性的 “解释优化器”，我们提出了一种新颖的框架，旨在增强深度神经网络的可解释性，并通过实验证实了其有效性。

    May, 2024