May, 2024

线性优化的反事实解释

PDF
TL;DR探究了对复杂 AI 系统内部工作方式的理解中产生的反事实解释（CE）概念，并将 CE 的思想转化为线性优化，提出、激发、并分析了三种不同类型的 CE：强 CE、弱 CE 和相对 CE。通过检测和利用后一种情况下产生的优化问题的隐藏凸结构，证明计算相对 CE 的效率高。通过对 NETLIB 库进行广泛的数值实验研究，证实了获得相对 CE 可以在与解决原始线性优化问题相同数量级的时间内完成。
发现论文，激发创造
  • 机器学习中的鲁棒反事实解释：一项调查

    对于机器学习模型的预测结果影响的人来说，反事实解释（CEs）被认为是提供理想算法解决方案的。然而，最近的工作揭示了与获取 CEs 的最新方法相关的严重问题的存在，因此需要采取技术来减轻风险。在这项调查中，我们回顾了快速发展的稳健 CEs 领域的研究，并对其所考虑的稳健性形式进行了深入分析。我们还讨论了现有解决方案及其限制，为未来的发展提供了坚实的基础。

    Feb, 2024

  • 混合整数线性优化有序反事实解释

    本研究提出一种基于特征交互的有序因果解释框架，通过混合整数线性优化方法寻找合适的特征交互顺序以提供实际决策中的应用。在真实数据集上的实验表明，与无序方法相比，该方法具有良好的效果。

    Dec, 2020

  • 在大规模状态空间中学习可行的反事实解释

    我们提供了一个实验证明的深度网络学习过程，可以在此任务上取得强大的性能表现。我们考虑了几种问题形式，包括在未明确提供 “能力” 和行动影响的情况下的公式，因此存在信息挑战和计算挑战。我们的问题也可以看作是在一系列大型但确定性的马尔可夫决策过程（MDPs）中学习最优策略之一。

    Apr, 2024

  • 基于用户反馈的反事实解释介绍 (UFCE)

    本研究引入了一种新的方法论，名为用户反馈式反事实解释（UFCE），以解决当前反事实解释算法的局限性，并旨在提高对提供的解释的置信度。实验证明，UFCE 在接近度、稀疏度和可行性方面胜过两种著名的 CE 方法，并指出用户约束对生成可行的反事实解释具有影响。

    Feb, 2024

  • CF-OPT：针对结构化预测的反事实解释

    通过变分自动编码器在深度学习模型中释放潜在空间的潜力，提出了一种改进的损失函数用于解释非结构化学习架构中的反事实情况，并展示了该方法在近期文献的问题上的有效性。

    May, 2024

  • 通过鲁棒优化为神经网络提供可证明稳健和可信的反事实解释

    使用鲁棒优化技术，我们提出了 Provably RObust and PLAusible Counterfactual Explanations (PROPLACE) 方法来解决现有工作中的局限性，并通过比较实验证明其在三个评估方面的性能达到了最先进水平。

    Sep, 2023

  • 统一视角：全球、群体和局部级别上的合理反事实解释

    通过梯度优化，引入了一种新的整合方法，为可区分分类模型生成本地、小组和全局反事实解释，以解决全局反事实解释所面临的挑战，并增强了可行性和可信度，从而提高了 AI 模型的可解释性和负责任性。

    May, 2024

  • 通过数学优化在基于得分的分类中生成集体反事实解释

    利用数学优化模型，通过集体反事实解释为给定组内各实例提供一个反事实解释，以使扰动实例的总成本在一定约束下最小化，从而检测对整个数据集都至关重要的特征，验证了该方法的实用性。

    Oct, 2023

  • 通过潜在空间的解缠释义实现回归

    本文提出了一种新的方法，通过首先将潜空间中的标签无关特征与预定义的输出相结合，以为预先训练的回归器生成对立解释。通过在潜空间中搜索，我们展示了该方法在回归问题设置下重要高维机器学习应用中具有竞争力。

    Nov, 2023

  • 通过隐式最小化认识和随机不确定性来生成可解释的反事实解释

    提出了一种简单快速的生成可解释反事实解释的方法，无需辅助模型，使用分类器的预测不确定性，在 IM1 得分方面比现有方法生成更可解释的 CEs。此外，该方法还允许估计 CE 的不确定性，这在医疗等安全关键应用中可能非常重要。

    Mar, 2021