使用算法回溯学习决策树和随机森林
提出了一种新的框架 ROAR(RObust Algorithmic Recourse)用于解决由于模型漂移导致现有的后事补救技术不再有效的问题,该框架利用对抗性训练找到了对模型漂移具有鲁棒性的后事补救,实验评估结果表明这种方法在多个合成和现实世界数据集上具有很高的效度。
Feb, 2021
机器学习在诸如医疗保健、银行和刑事司法等关键领域的普及促使了确保 ML 模型的信任和透明性的工具的创建,其中一个工具是用于受负面影响的用户的可操作补救措施(AR),AR 描述了对用户的可行性特征的成本效益改变的建议,以帮助他们获得有利的结果;基于现有方法的补救方式优化了接近性、稀疏性、有效性和基于距离的成本等属性,然而,行动性的一个常被忽视但至关重要的要求是考虑用户偏好来指导补救生成过程,本研究尝试通过三种简单形式(i)评分连续特征,(ii)限制特征值范围和(iii)对分类特征进行排序)来捕捉用户偏好,最后,我们提出了一种基于梯度的方法来识别用户优选的可操作补救措施(UP-AR),我们进行了大量实验证实我们方法的有效性。
Sep, 2023
该论文提出了一种将偏好学习整合到追索生成问题中的两步方法,通过设计问答框架来逐步细化追索主体的马氏矩阵代价的置信集,然后利用基于梯度和基于图的代价自适应追索方法来生成合法且考虑到整个代价矩阵的高效追索,数值评估结果表明该方法在提供高效追索建议方面优于现有基准。
Feb, 2024
本研究提出了有意义的算法追溯 (MAR) 方法,该方法仅推荐同时改善预测和目标的操作,从而解决了原有算法追溯方法的问题,并介绍了一种称为有效算法追溯(EAR)的方法,它可以假定采取操作可以影响模型目标的所有原因,从而生成有意义的算法追溯解释。
Jul, 2021
针对内容提供者,我们提出了一个适用于推荐系统的追索框架,旨在理解模型在做出特定预测和推荐时的基本原理,并通过对三个真实数据集上训练的推荐系统进行实证评估,展示了 RecRec 在生成有效、稀疏和可执行的追索方面的高效性。据我们所知,这项工作是首次对推荐系统生成追索的概念进行了概括和实证测试。
Aug, 2023
在高风险决策中,算法系统往往被要求提供帮助。鉴于此,算法追索的原则,即个体应该能够针对算法系统产生的不良结果采取行动,受到越来越多的关注。然而,过去关于算法追索的大部分文献主要关注如何为单个个体提供追索,而忽视了一个关键要素:不断变化的环境对追索的影响。在本文中,我们提出了一个基于代理的仿真框架,用于研究不断变化的环境对算法追索的影响。我们的研究发现,只有一小部分具体的参数设置才能使算法追索随时间可靠。因此,我们认为还需要大量的工作来了解随时间的追索可靠性,并开发能够奖励代理努力的追索方法。
Sep, 2023