Apr, 2024

超越一刀切：将反事实解释适应用户目标

HTML
PDF
TL;DR解释性人工智能(XAI)是一项关键研究领域，旨在增强人工智能系统的透明度和解释性。反事实解释(CFEs)通过探索某些因素不同的替代情景，为机器学习算法的决策过程提供有价值的洞察。本文主张细致理解CFEs，了解用户目标和目标应用的多样化需求，以设计更有效且量身定制的解释，以满足用户的特定需求，从而提高与人工智能系统的协作。
发现论文，激发创造
  • 如果我们有更好的反事实解释：修正反事实XAI技术评估中的五个主要不足

    该论文通过调查100种不同的反事实解释方法，评估这些方法在心理和计算上的不足，并列出了五个关键的评估缺陷，并提出了标准化基准评估的路线图来解决这些影响该领域科学进展的问题。

    Feb, 2021

  • 基准测试可解释性人工智能的反事实算法：从白盒到黑盒

    该研究通过在三种不同类型的机器学习模型上进行基准评估来调查机器学习模型对反事实解释生成的影响，发现不同的机器学习模型对反事实解释生成没有影响，强烈建议进行定性分析来确保反事实解释的稳健分析和潜在偏差的识别。

    Mar, 2022

  • 可解释性特征：用户如何理解XAI中分类型和连续特征的因果和反事实解释

    通过对127名志愿者进行对照实验，本研究探讨了因果和反事实解释对于用户预测简单AI系统决策的效果及其对解释的满意程度和信任度。发现反事实解释相对于没有说明的控制描述，但没有比因果解释更高的准确性；但反事实解释比因果解释更能满足用户的需要和信任，而且用户更容易理解涉及分类特征的解释。

    Apr, 2022

  • 保持亲密关系，让反事实更近：在抽象设置中从最近的反事实解释中提高学习效果

    本研究旨在评估计算合理性和心理合理性之间的差异, 结果表明，心理学合理性与计算合理性之间存在巨大差异，特别是在处理详细的模型解释时，需要考虑人类行为，偏好和心理模型，以在 XAI 的设计阶段获得更好的用户体验。

    May, 2022

  • 因果解释的分歧：透明度如何具有欺骗性

    本文针对可解释人工智能中的对策解释方法（Counterfactual explanations）中存在的异议问题（the disagreement problem）进行了大规模实证研究，发现不同算法生成的解释之间存在高度异议，从而呼吁更多关于算法决策透明度的讨论和实验研究。

    Apr, 2023

  • 反事实解释的多样性实现：综述和讨论

    本文综述了可解释人工智能（XAI）领域中的对抗事实例，这些例子通过指示对实例进行的修改来解释训练决策模型的预测，以改变其相关预测。同时，本文探讨了可解释人工智能中多元对抗事实例的概念定义，讨论了它们的基本原理以及它们依赖的用户需求的假设，并提出了这方面的进一步研究挑战。

    May, 2023

  • 反事实解释方向对xAI用户行为的影响

    用户研究表明，升向因果解释（upward CFE）可提高模型和用户的效率和知识水平，并强调了混合因果解释（mixed CFEs）相对于降向因果解释（downward CFEs）或无解释的潜在益处。

    Jun, 2023

  • 基于用户反馈的反事实解释介绍 (UFCE)

    本研究引入了一种新的方法论，名为用户反馈式反事实解释（UFCE），以解决当前反事实解释算法的局限性，并旨在提高对提供的解释的置信度。实验证明，UFCE在接近度、稀疏度和可行性方面胜过两种著名的CE方法，并指出用户约束对生成可行的反事实解释具有影响。

    Feb, 2024

  • 球重叠数量模型不可知反事实(ONB-MACF)：基于数据形态学的诚信人工智能反事实生成方法

    通过分析数据形态策略在生成反事实解释中的价值，本研究引入了基于数据形态的可解释性策略——ONB-MACF方法，并在多样化表格数据集上的多个质量指标中证明其优于现有最先进的反事实生成方法，支持了数据形态策略在构建可信人工智能方面的潜力。

    May, 2024

  • 统一视角: 全球、群体和局部级别上的合理反事实解释

    通过梯度优化，引入了一种新的整合方法，为可区分分类模型生成本地、小组和全局反事实解释，以解决全局反事实解释所面临的挑战，并增强了可行性和可信度，从而提高了AI模型的可解释性和负责任性。

    May, 2024