面向强健可靠的算法可追溯性

Feb, 2021

Towards Robust and Reliable Algorithmic Recourse

Sohini Upadhyay, Shalmali Joshi, Himabindu Lakkaraju

TL;DR提出了一种新的框架 ROAR（RObust Algorithmic Recourse）用于解决由于模型漂移导致现有的后事补救技术不再有效的问题，该框架利用对抗性训练找到了对模型漂移具有鲁棒性的后事补救，实验评估结果表明这种方法在多个合成和现实世界数据集上具有很高的效度。

Abstract

As predictive models are increasingly being deployed in high-stakes decision making (e.g., loan approvals), there has been growing interest in post hoc techniques which provide recourse to affected individuals. These techniques generate recourses under the assumption that the underlyin

predictive models post hoc techniques adversarial training model shifts robustness

发现论文，激发创造

关联感知的算法补救

通过提出一种新的框架，关注相关度在应用算法补救到回归任务中的影响，我们发现相关性对算法补救具有相当的贡献，同时能提高效率和降低相对成本。

May, 2024

野外算法可追溯性：理解数据和模型漂移的影响

本文研究了模型更新对于算法补救方案的影响，实验证明数据分布的改变和模型升级会导致现有的算法补救方案失效，因此需要重新设计和开发算法补救方案。

Dec, 2020

论算法反馈的隐私风险

本文旨在探讨对算法提供诉求时对于隐私泄露的重要风险，通过 membership inference attacks 方法将对算法使用的数据的私密信息泄露。

Nov, 2022

因果算法对抗鲁棒性

该论文研究算法性救济，包括在自动化决策系统中提供可行的建议，如何在相关不利的情况下提供建议并保持鲁棒性，通过正则化决策分类器来促进鲁棒救济。

Dec, 2021

有意义且健壮的算法补救措施的因果视角

本研究提出了有意义的算法追溯 (MAR) 方法，该方法仅推荐同时改善预测和目标的操作，从而解决了原有算法追溯方法的问题，并介绍了一种称为有效算法追溯（EAR）的方法，它可以假定采取操作可以影响模型目标的所有原因，从而生成有意义的算法追溯解释。

Jul, 2021

覆盖效力感知算法性补救

算法回溯是提升机器学习模型解释性、透明性和伦理性的一种突出技术；现有的算法回溯方法通常假设预测模型是不变的，但预测模型往往会在新数据到达时进行更新，因此对于未来的模型而言，对现有模型有效的回溯方法可能变得无效。为解决这个问题，我们提出了一个新框架生成与模型变化鲁棒的模型无关回溯。我们的框架首先构建了一个基于线性 (代理) 模型的可覆盖性和有效性感知回溯，然后根据这个线性模型生成回溯。我们建立了我们的可覆盖性和有效性感知线性模型与极小最大概率机 (MPM) 之间的理论联系，并证明通过给定不同的协方差鲁棒性，我们的框架可以恢复 MPM 的常用正则化，包括ℓ2 正则化和类别重新加权。此外，我们还展示了我们的代理模型直观地推动近似超平面，使得回溯既具有鲁棒性又具有可解释性。数值结果证明了我们框架的有用性和鲁棒性。

Nov, 2023

SafeAR：通过风险感知策略实现更安全的算法补救

通过计算具有风险考虑的途径，这篇论文旨在为那些受到机器学习模型决策不利影响的个体提供补救建议，以便改善他们的处境并获得有利的决策。

Aug, 2023

使用算法回溯学习决策树和随机森林

该论文提出了一种新算法，用于学习准确的基于树的模型，同时确保存在补救措施行动。

Jun, 2024

RecRec: 推荐系统的算法性补救

针对内容提供者，我们提出了一个适用于推荐系统的追索框架，旨在理解模型在做出特定预测和推荐时的基本原理，并通过对三个真实数据集上训练的推荐系统进行实证评估，展示了 RecRec 在生成有效、稀疏和可执行的追索方面的高效性。据我们所知，这项工作是首次对推荐系统生成追索的概念进行了概括和实证测试。

Aug, 2023

无需排除：基于可达集的补救验证预测

机器学习模型在决定贷款、工作面试或公共福利分配时经常使用。本文介绍了一种被称为回溯验证的形式化测试过程，用于标记分配固定预测的模型，并提供工具来设计在开发模型时考虑行动性的算法。

Aug, 2023