有意义且健壮的算法补救措施的因果视角
提出了一种新的框架 ROAR(RObust Algorithmic Recourse)用于解决由于模型漂移导致现有的后事补救技术不再有效的问题,该框架利用对抗性训练找到了对模型漂移具有鲁棒性的后事补救,实验评估结果表明这种方法在多个合成和现实世界数据集上具有很高的效度。
Feb, 2021
机器学习在诸如医疗保健、银行和刑事司法等关键领域的普及促使了确保 ML 模型的信任和透明性的工具的创建,其中一个工具是用于受负面影响的用户的可操作补救措施(AR),AR 描述了对用户的可行性特征的成本效益改变的建议,以帮助他们获得有利的结果;基于现有方法的补救方式优化了接近性、稀疏性、有效性和基于距离的成本等属性,然而,行动性的一个常被忽视但至关重要的要求是考虑用户偏好来指导补救生成过程,本研究尝试通过三种简单形式(i)评分连续特征,(ii)限制特征值范围和(iii)对分类特征进行排序)来捕捉用户偏好,最后,我们提出了一种基于梯度的方法来识别用户优选的可操作补救措施(UP-AR),我们进行了大量实验证实我们方法的有效性。
Sep, 2023
我们提出了一种基于机器学习的回溯算法,用于提供决策结果不理想的人可以采取的可操作的一系列改变,以改善他们的结果。我们的算法可适用于各个不同 iable 的基于机器学习的决策系统,并填补了关于公平性的现有文献的不足之处。
Jul, 2019
算法回溯是提升机器学习模型解释性、透明性和伦理性的一种突出技术;现有的算法回溯方法通常假设预测模型是不变的,但预测模型往往会在新数据到达时进行更新,因此对于未来的模型而言,对现有模型有效的回溯方法可能变得无效。为解决这个问题,我们提出了一个新框架生成与模型变化鲁棒的模型无关回溯。我们的框架首先构建了一个基于线性 (代理) 模型的可覆盖性和有效性感知回溯,然后根据这个线性模型生成回溯。我们建立了我们的可覆盖性和有效性感知线性模型与极小最大概率机 (MPM) 之间的理论联系,并证明通过给定不同的协方差鲁棒性,我们的框架可以恢复 MPM 的常用正则化,包括ℓ2 正则化和类别重新加权。此外,我们还展示了我们的代理模型直观地推动近似超平面,使得回溯既具有鲁棒性又具有可解释性。数值结果证明了我们框架的有用性和鲁棒性。
Nov, 2023
本文研究了机器学习中的算法回溯问题,在考虑了精度和鲁棒性之外,提出应当考虑公平、隐私、责任和可解释性等价值观,并对相关文献进行了全面审视,提出了一些解决方案。同时,作者还为该领域的研究方向提供了一些新的视角和方向,挑战了一些关于安全、隐私和公平性方面的假设。
Oct, 2020
针对内容提供者,我们提出了一个适用于推荐系统的追索框架,旨在理解模型在做出特定预测和推荐时的基本原理,并通过对三个真实数据集上训练的推荐系统进行实证评估,展示了 RecRec 在生成有效、稀疏和可执行的追索方面的高效性。据我们所知,这项工作是首次对推荐系统生成追索的概念进行了概括和实证测试。
Aug, 2023