算法回溯中的内生宏观动态

Aug, 2023

Endogenous Macrodynamics in Algorithmic Recourse

Patrick Altmeyer, Giovan Angela, Aleksander Buszydlik, Karol Dobiczek, Arie van Deursen...

TL;DR现有关于反事实解释和算法回应的研究主要集中在静态环境中的个体上，但对于处理数据和模型漂移等动态环境的能力仍然是一个未被充分探索的研究挑战。在个体实施回应的实际情况如何影响其他个体方面也缺乏研究。通过模拟实验，本文发现现有的算法回应方法的应用可能会受到域和模型漂移的影响，但同时提出了几种缓解这些问题的策略。同时，我们提出了一个快速且开源的模拟框架，用于研究回应动态。

Abstract

Existing work on counterfactual explanations (CE) and algorithmic recourse (AR) has largely focused on single individuals in a static environment: given some estimated model, the goal is to find valid counterfact

counterfactual explanations algorithmic recourse dynamics model drift recourse dynamics

发现论文，激发创造

局部引导的顺序算法补救的反事实解释

通过算法补偿实施的反事实推演已成为使人工智能系统具有可解释性的强大工具，本文提出了一种名为 LocalFACE 的模型不可知技术，通过局部获取的信息在每个算法补偿步骤中构建可行且可操作的反事实解释。

Sep, 2023

分解因果解释以进行实质性决策

本文提出了一种新的算法回溯框架 DEAR，通过解缠共变特征的潜在表示来捕捉实践回溯的主要愿景，从而在特征依赖的情况下提供可靠且低成本的回溯。

Nov, 2022

设定正确的期望：算法补救随时间变化

在高风险决策中，算法系统往往被要求提供帮助。鉴于此，算法追索的原则，即个体应该能够针对算法系统产生的不良结果采取行动，受到越来越多的关注。然而，过去关于算法追索的大部分文献主要关注如何为单个个体提供追索，而忽视了一个关键要素：不断变化的环境对追索的影响。在本文中，我们提出了一个基于代理的仿真框架，用于研究不断变化的环境对算法追索的影响。我们的研究发现，只有一小部分具体的参数设置才能使算法追索随时间可靠。因此，我们认为还需要大量的工作来了解随时间的追索可靠性，并开发能够奖励代理努力的追索方法。

Sep, 2023

不完善因果知识下的算法补救：一种概率方法

通过两种概率方法选取最优行动以在有限的因果知识下实现补救，以解决缺乏真实结构因果模型的限制，并在不完美的因果知识下提供比非概率基线更可靠的建议。

Jun, 2020

算法补救：从反事实解释到干预

本研究旨在基于因果推理，强调针对机器学习的偏见或错误决策，我们应该将注意力从解释数据的方式转向提供介绍、通过最小干预实现推荐的方式，以获得更好的结果。

Feb, 2020

隐私保护算法方案

基于实例化反事实解释的隐私回溯路径，提供了一种端到端的隐私保护管道，可生成逼真的回溯路径。

Nov, 2023

野外算法可追溯性：理解数据和模型漂移的影响

本文研究了模型更新对于算法补救方案的影响，实验证明数据分布的改变和模型升级会导致现有的算法补救方案失效，因此需要重新设计和开发算法补救方案。