Jul, 2023

定量双极论证框架中的论证归因解释

PDF
TL;DR解释性 AI 的一个关键问题是如何解释 Argumentation Frameworks (AFs) 的推理结果，而定量推理结果在 gradual semantics 下的解释尚未得到广泛关注。本文提出了一个新的 Argument Attribution Explanations (AAEs) 理论，通过在 Quantitative Bipolar Argumentation Frameworks (QBAFs) 中引入机器学习中的特征归因理念，研究 AAEs 的理论性质，并通过两个案例研究验证了 AAEs 在假新闻检测和电影推荐系统中的应用性。
argumentative explainable aireasoning outcomesargumentation frameworksquantitative reasoningargument attribution explanations
发现论文，激发创造
  • 使用论证解释因果模型：以双变量强化为例

    本文介绍基于因果模型生成论证框架的概念化，将 AF 的语义理解为可解释 AI 的说明模式，演示了使用双变量强化属性重新解释为说明模式来为因果模型的输出制作双极 AF 的方法，并进行了理论评估。

    May, 2022

  • 解释论证的强度：揭示攻击和支持的作用 (技术报告)

    提供定量解释的关系归因解释（RAEs）理论，适应于计算攻击和支持在定量双极论证中的作用，通过计算归因分数量化解释论点的强度，并且提出了一种概率算法在有效近似 RAEs 的同时，揭示了 RAEs 在欺诈检测和大型语言模型案例研究中的应用价值。

    Apr, 2024

  • 上下文感知型特征归属分析

    通过论证的方式，提出了一种上下文感知特征归因的框架 CA-FATA，该框架将每个特征作为一个支持、攻击或中立预测的论证，通过论证过程进行特征归因计算，具有明确的语义和可解释性，并且能够整合用户上下文等额外信息以实现更准确的预测。

    Oct, 2023

  • 当因子化遇到论证：朝着论证性解释的方向

    该研究提出一种将基于因子分解的模型与论证框架相结合的新模型，通过在模型的每个阶段提供明确的含义，使其能够产生易于理解的推荐解释，并能够结合用户上下文等附加信息实现更准确的预测。

    May, 2024

  • 通过辩论交流解决冲突的交互式解释

    本研究针对可解释人工智能（XAI），提出了一种计算论证的交互式解释方法（AXs），以解决模型输出与人类决策之间的不一致性。实验结果表明，AXs 在 XAI 中可以有效地解决不当行为和决策冲突。

    Mar, 2023

  • 论形式特征归属及其近似

    借鉴形式推理解释，提出了正式特征归因（FFA）方法，通过近似 FFA 技术证明了其在特征重要性和顺序方面相对于现有特征归因算法的有效性。

    Jul, 2023

  • 论述型可解释人工智能：一项调查

    本文综述了利用计算论证方法建立的可解释 AI 方法，重点关注其不同类型的解释，使用的不同模型，不同交互方式和不同的论证框架。此外，我们还规划了未来的发展方向。

    May, 2021

  • 抽象论证中的对立假设和半事实解释：形式基础、复杂性与计算

    该论文探讨了可解释人工智能和形式论证在抽象论证框架中的反事实和半事实推理，研究了其计算复杂性，并提供了通过 ASP 求解器的计算策略。

    May, 2024

  • 神经网络特征评估中的不一致问题探究

    近年来，神经网络展示出了从原始数据中识别复杂模式和关系的卓越能力。然而，理解这些黑盒模型的内部机制仍具挑战性，但对于高风险决策至关重要。我们的研究通过调查解释的基本和分布行为来解决这种困惑。此外，通过全面的模拟研究，我们展示了常见缩放和编码技术对解释质量的影响，评估它们在不同效应大小中的功效，并展示了基于排序的评估指标的不一致性的来源。

    Apr, 2024

  • 人工智能中的归因分数和因果反事实解释

    本文介绍了解释在人工智能中的重要性，特别是解释方法的新发展。通过讨论基于属性分数和因果关系的反事实解释法，强调了逻辑推理在处理反事实时的重要性和其对评分计算的作用。

    Mar, 2023