ICMLMay, 2024

局部和全局救济的反事实元规则

PDF
TL;DRT-CREx 是一种新颖的模型无关方法，用于本地和全局对策解释（CE），通过可读性规则的形式总结了个体和群体的退路选择，利用基于树的代理模型学习反事实规则，并利用表示其最佳性区域的 ' 元规则 '，为用户提供了模型行为的全局分析和多样的退路选择。实验表明，T-CREx 在一系列 CE 期望上实现了优越的集合性能，同时运行速度快了几个数量级。
t-crexcounterfactual explanationrecourse optionstree-based surrogate modelsmodel behaviour
发现论文，激发创造
  • 局部引导的顺序算法补救的反事实解释

    通过算法补偿实施的反事实推演已成为使人工智能系统具有可解释性的强大工具，本文提出了一种名为 LocalFACE 的模型不可知技术，通过局部获取的信息在每个算法补偿步骤中构建可行且可操作的反事实解释。

    Sep, 2023

  • 算法回溯中的内生宏观动态

    现有关于反事实解释和算法回应的研究主要集中在静态环境中的个体上，但对于处理数据和模型漂移等动态环境的能力仍然是一个未被充分探索的研究挑战。在个体实施回应的实际情况如何影响其他个体方面也缺乏研究。通过模拟实验，本文发现现有的算法回应方法的应用可能会受到域和模型漂移的影响，但同时提出了几种缓解这些问题的策略。同时，我们提出了一个快速且开源的模拟框架，用于研究回应动态。

    Aug, 2023

  • 全局反事实解释：调查、实现、和改进

    该研究探讨了全局因果解释框架的现有方法，特别聚焦于实施和改进可操作补救摘要（AReS），这是唯一已知的适用于补救的全局因果解释框架。

    Apr, 2022

  • GLOBE-CE: 全球反事实解释的基于翻译的方法

    提出了一种名为 GLOBE-CE 的灵活框架，旨在解决当前解释性方法中与可靠性和可扩展性有关的问题，并在针对高维数据集和连续特征存在的情况下提供全局和高效的反事实解释，通过公开可用的数据集和用户研究进行了评估，证明了该框架在速度、可靠性等多个指标上明显优于当前先进技术。

    May, 2023

  • TraCE：轨迹逆事实解释分数

    我们提出了一个模型无关的模块化框架，TraCE（轨迹反事实解释）评分，用于评估顺序决策任务中的进展，并将其应用于医疗保健和气候变化两个案例研究，展示了其在不同领域的实用性。

    Sep, 2023

  • 机器学习中的鲁棒反事实解释：一项调查

    对于机器学习模型的预测结果影响的人来说，反事实解释（CEs）被认为是提供理想算法解决方案的。然而，最近的工作揭示了与获取 CEs 的最新方法相关的严重问题的存在，因此需要采取技术来减轻风险。在这项调查中，我们回顾了快速发展的稳健 CEs 领域的研究，并对其所考虑的稳健性形式进行了深入分析。我们还讨论了现有解决方案及其限制，为未来的发展提供了坚实的基础。

    Feb, 2024

  • 统一视角：全球、群体和局部级别上的合理反事实解释

    通过梯度优化，引入了一种新的整合方法，为可区分分类模型生成本地、小组和全局反事实解释，以解决全局反事实解释所面临的挑战，并增强了可行性和可信度，从而提高了 AI 模型的可解释性和负责任性。

    May, 2024

  • 全球基于人工引导的分子性质对策解释的增强学习

    RLHEX 是一种新颖的全局解释模型，结合了 VAE-based graph generator 和适应人类定义原则的适配器，可生成与领域专业知识相一致的反事实解释，用于分子属性预测。

    Jun, 2024

  • GLANCE: 全球行动简述的反事实可解释性

    提供全局反事实解释问题的简洁表述并建立了比较解决方案的原则标准，使用聚类和决策树作为关键组件的创新算法解决全局反事实问题，并通过与其他方法的综合实验评估验证了算法的能力。

    May, 2024

  • 分解因果解释以进行实质性决策

    本文提出了一种新的算法回溯框架 DEAR，通过解缠共变特征的潜在表示来捕捉实践回溯的主要愿景，从而在特征依赖的情况下提供可靠且低成本的回溯。

    Nov, 2022