Sep, 2023

TraCE：轨迹逆事实解释分数

PDF
TL;DR我们提出了一个模型无关的模块化框架，TraCE（轨迹反事实解释）评分，用于评估顺序决策任务中的进展，并将其应用于医疗保健和气候变化两个案例研究，展示了其在不同领域的实用性。
counterfactual explanationsalgorithmic recoursesequential decision makingtrace scoresmodular framework
发现论文，激发创造
  • 解释学习得到的奖励函数与反事实轨迹

    通过对比原始和反事实的部分轨迹及其各自接收的奖励，我们提出了反事实轨迹解释（CTEs）来解释强化学习中的奖励函数，证明了 CTEs 对代理人模型具有信息量，使其预测与未见轨迹上的奖励函数更加相似，并且在不同分布的示例中具有泛化能力，从而为解释学习的奖励函数提供了一种有效的方法。

    Feb, 2024

  • MACE：一个高效的模型无关框架用于因果解释

    提出了一种新的框架 Model-Agnostic Counterfactual Explanation (MACE)，通过采用一种新设计的流水线来有效处理大量特征值上的非可分机器学习模型，其中包括使用基于 RL 的方法来找到良好的对策例子和梯度下降方法来改进相似性。公共数据集上的实验证实了该方法的有效性，具有更好的准确性、稀疏性和相似性。

    May, 2022

  • 通过反事实分析进行人类轨迹预测

    探究对策性分析在人类轨迹预测中的应用，并构建因果图分析历史轨迹与未来轨迹以及环境交互之间的关系，并对轨迹进行反事实干预以减轻环境偏差带来的负面影响，从而取得了公共行人轨迹预测基准测试的最佳结果。

    Jul, 2021

  • 基于深度学习的交通预测的对立解释

    通过反事实解释方法增强可解释性和可用性，揭示深度学习模型学习的交通模式，提高交通预测模型的透明性和可理解性。

    May, 2024

  • 针对数据转换下的反事实解释鲁棒性的验证训练

    这篇论文介绍了 VeriTraCER，一种联合训练分类器和解释器的方法，明确考虑生成的反事实解释对小型模型偏移的稳健性，从而提供对反事实解释有效性的确定性保证。我们的实证评估表明，VeriTraCER 生成的反事实解释 (1) 对小型模型更新具有可验证的稳健性，(2) 在处理包括随机初始化、leave-one-out 和分布偏移等经验模型更新方面显示出与最先进方法竞争力的稳健性。

    Mar, 2024

  • 由一组解释器产生的反事实集合中选择解释的多标准方法

    基于多标准分析的多阶段集成方法能够从 Pareto 前沿中选择一个用于解释机器学习模型预测的可行对策。实验结果表明，该方法能够生成具有吸引力的多种质量度量的可操作对策。

    Mar, 2024

  • 可自解释的时间序列预测与反事实解释

    该研究旨在通过提出可自我解释的 Counterfactual Time Series (CounTS) 模型，从而生成针对时间序列预测的反事实和可操作性解释，该模型可以提供更好的反事实解释，同时保持相当的预测准确性，并建立相应的评估方案。

    Jun, 2023

  • 多目标反事实解释

    该研究提出了一种多目标反事实解释方法（MOC），将反事实搜索转化为多目标优化问题，通过对特征空间的多样性维护，返回一组不同权衡的反事实，并在实际案例中展示了 MOC 的有用性和与现有方法的对比。

    Apr, 2020

  • RACCER：面向强化学习的可达到和确定的反事实解释

    本文提出 RACCER，这是第一个针对 RL 行为生成对抗性解释的 RL 特定方法，我们使用 RL 特定的对抗性属性，并使用启发式树搜索算法来查找最合适的对抗性解释，并进行了用户研究以证明对抗性解释可以帮助用户更好地理解 RL 代理的行为。

    Mar, 2023

  • 基准测试可解释性人工智能的反事实算法：从白盒到黑盒

    该研究通过在三种不同类型的机器学习模型上进行基准评估来调查机器学习模型对反事实解释生成的影响，发现不同的机器学习模型对反事实解释生成没有影响，强烈建议进行定性分析来确保反事实解释的稳健分析和潜在偏差的识别。

    Mar, 2022