With the growing use of machine learning (ML) models in critical domains such
as finance and healthcare, the need to offer recourse for those adversely
affected by the decisions of ML models has become more important; individuals
ought to be provided with recommendations on actions to take for improving
their situation and thus receive a favorable decision.
机器学习在诸如医疗保健、银行和刑事司法等关键领域的普及促使了确保 ML 模型的信任和透明性的工具的创建,其中一个工具是用于受负面影响的用户的可操作补救措施(AR),AR 描述了对用户的可行性特征的成本效益改变的建议,以帮助他们获得有利的结果;基于现有方法的补救方式优化了接近性、稀疏性、有效性和基于距离的成本等属性,然而,行动性的一个常被忽视但至关重要的要求是考虑用户偏好来指导补救生成过程,本研究尝试通过三种简单形式(i)评分连续特征,(ii)限制特征值范围和(iii)对分类特征进行排序)来捕捉用户偏好,最后,我们提出了一种基于梯度的方法来识别用户优选的可操作补救措施(UP-AR),我们进行了大量实验证实我们方法的有效性。