Jan, 2024

基于和 - 积网络生成可能的反事实情况

PDF
TL;DR由于用户需求和最近的监管（GDPR，AI 法案），AI 系统的决策需要解释。这些决策通常只能进行事后解释，其中因果解释很受欢迎。关于什么构成最佳因果解释的问题必须考虑多个方面，其中 “样本距离” 是最常见的。我们认为，这一要求经常导致不太可能的解释，因此价值有限。在这里，我们提出了一个提供高可能性解释的系统。我们展示了符合多种常见因果解释期望的最可能解释的搜索可以用混合整数优化（MIO）进行建模。在这个过程中，我们提出了一个 Sum-Product Network（SPN）的 MIO 公式，并使用 SPN 估计因果关系的可能性，这可能独立引起兴趣。对比了几种生成因果解释的方法的数值比较。
ai systemsexplanationscounterfactuallikelihoodsum-product network
发现论文，激发创造
  • 对策说明的随机优化

    通过提出一种基于随机学习的框架和特征选择模块来平衡反事实解释的权衡，本研究在生成可行的反事实解释方面展现了其有效性，并表明其比基线更加多样化和高效。

    Sep, 2022

  • 有关重大决策的通用反事实解释模型

    该研究提出了一种基于形式验证的算法，使用逻辑公式表示距离函数（目标）和预测模型（约束），解决满足性问题生成最接近的反事实解释，能够生成可行的多样化反事实解释来满足 100% 的覆盖率。

    May, 2019

  • 由一组解释器产生的反事实集合中选择解释的多标准方法

    基于多标准分析的多阶段集成方法能够从 Pareto 前沿中选择一个用于解释机器学习模型预测的可行对策。实验结果表明，该方法能够生成具有吸引力的多种质量度量的可操作对策。

    Mar, 2024

  • 通过数学优化在基于得分的分类中生成集体反事实解释

    利用数学优化模型，通过集体反事实解释为给定组内各实例提供一个反事实解释，以使扰动实例的总成本在一定约束下最小化，从而检测对整个数据集都至关重要的特征，验证了该方法的实用性。

    Oct, 2023

  • 决策、反事实解释与战略行为

    本文旨在在战略环境下寻找最优的政策和对策解释，包括 NP 难的问题，非降性和子模性，用标准贪心算法获得近似保证。最后，我们表明通过将拟阵约束加入问题的制定中，我们可以提高对策解释的最优集合的多样性，并激励整个人口谱上的个体自我改进。

    Feb, 2020

  • 多目标反事实解释

    该研究提出了一种多目标反事实解释方法（MOC），将反事实搜索转化为多目标优化问题，通过对特征空间的多样性维护，返回一组不同权衡的反事实，并在实际案例中展示了 MOC 的有用性和与现有方法的对比。

    Apr, 2020

  • 高效搜索多样一致的解释

    本篇论文提出了使用混合整数规划来进行反事实解释的新型搜索算法，在处理具有连续范围或离散状态集的复杂数据时，使用了一组新颖的约束条件，称为混合多面体，可以有效地找到连贯的反事实解释。同时，本文还探讨了多样性解释的问题，并展示了如何在我们的框架内生成多样性解释。

    Jan, 2019

  • 明智选择数据：用于语义逆因果框架的方案

    本文提出一个利用知识图谱提供反事实解释的框架，并给出了一种计算该解释的算法，并 quantitatively 评估了该框架与用户研究。

    May, 2023

  • 使用多目标优化探索反事实解释中的可信度、变化强度和对抗能力之间的权衡

    使用多目标优化模型，通过生成逆因模型生成可信的对抗实例，以提高深度学习模型的透明度，检测偏见和数据不当的形式。

    May, 2022

  • 针对预测多样性的反事实解释

    本文研究了如何以更低的成本生成对于多个分类器表现相等情况下对于分类结果的对抗讲解，在理论和实证研究中，对于解释成本与解释鲁棒性进行了概念的阐述，发现基于数据支持的方法相较于仅仅基于稀疏方法更加鲁棒，但是它们在成本方面会有所提高。因此，缘由推荐为稀疏方法在多分类器表现差异大的情况下不宜一概而论。

    Jun, 2020