Sep, 2018

线性分类中的可执行补救措施

PDF
TL;DR本文介绍了整数规划工具，以确保在线性分类问题中具有追索权，其中一个人通过更改可操作的输入变量（例如收入与年龄或婚姻状况）来改变模型的决策，并演示了这些工具如何通过信用评分问题的实验向利益相关者提供信息，结果表明，标准的模型开发实践可以极大地影响追索权，并促进实际中对追索权的评估。
machine learning modelsrecourselinear classification problemsmodel developmentcredit scoring problems
发现论文，激发创造
  • 跨群组平等配给资源

    本文讨论如何建立一个能够准确预测并确保负面影响不会对不同群体产生不成比例影响的模型，通过优化无论是线性设置还是非线性设置的归属度，来减小归属度不公平现象的发生。

    Sep, 2019

  • 黑盒决策系统中逼近真实个体补救和可操作解释

    我们提出了一种基于机器学习的回溯算法，用于提供决策结果不理想的人可以采取的可操作的一系列改变，以改善他们的结果。我们的算法可适用于各个不同 iable 的基于机器学习的决策系统，并填补了关于公平性的现有文献的不足之处。

    Jul, 2019

  • 无需排除：基于可达集的补救验证预测

    机器学习模型在决定贷款、工作面试或公共福利分配时经常使用。本文介绍了一种被称为回溯验证的形式化测试过程，用于标记分配固定预测的模型，并提供工具来设计在开发模型时考虑行动性的算法。

    Aug, 2023

  • 算法追索综述：定义、公式、解决方案及展望

    本文研究了机器学习中的算法回溯问题，在考虑了精度和鲁棒性之外，提出应当考虑公平、隐私、责任和可解释性等价值观，并对相关文献进行了全面审视，提出了一些解决方案。同时，作者还为该领域的研究方向提供了一些新的视角和方向，挑战了一些关于安全、隐私和公平性方面的假设。

    Oct, 2020

  • 二分类中追溯风险

    提出了一个学习理论框架，比较了分类有和没有算法追溯的风险，发现在许多情况下提供算法追溯反而有害，因为它会使用户产生更多的错误。此外，提供算法追溯有时会对系统整体造成伤害。因此，对当前的算法追溯概念需要重新思考。

    Jun, 2023

  • 用户指导的可行性行动

    机器学习在诸如医疗保健、银行和刑事司法等关键领域的普及促使了确保 ML 模型的信任和透明性的工具的创建，其中一个工具是用于受负面影响的用户的可操作补救措施（AR），AR 描述了对用户的可行性特征的成本效益改变的建议，以帮助他们获得有利的结果；基于现有方法的补救方式优化了接近性、稀疏性、有效性和基于距离的成本等属性，然而，行动性的一个常被忽视但至关重要的要求是考虑用户偏好来指导补救生成过程，本研究尝试通过三种简单形式（i）评分连续特征，（ii）限制特征值范围和（iii）对分类特征进行排序）来捕捉用户偏好，最后，我们提出了一种基于梯度的方法来识别用户优选的可操作补救措施（UP-AR），我们进行了大量实验证实我们方法的有效性。

    Sep, 2023

  • 论算法反馈的隐私风险

    本文旨在探讨对算法提供诉求时对于隐私泄露的重要风险，通过 membership inference attacks 方法将对算法使用的数据的私密信息泄露。

    Nov, 2022

  • 因果算法对抗鲁棒性

    该论文研究算法性救济，包括在自动化决策系统中提供可行的建议，如何在相关不利的情况下提供建议并保持鲁棒性，通过正则化决策分类器来促进鲁棒救济。

    Dec, 2021

  • RecRec: 推荐系统的算法性补救

    针对内容提供者，我们提出了一个适用于推荐系统的追索框架，旨在理解模型在做出特定预测和推荐时的基本原理，并通过对三个真实数据集上训练的推荐系统进行实证评估，展示了 RecRec 在生成有效、稀疏和可执行的追索方面的高效性。据我们所知，这项工作是首次对推荐系统生成追索的概念进行了概括和实证测试。

    Aug, 2023

  • 关联感知的算法补救

    通过提出一种新的框架，关注相关度在应用算法补救到回归任务中的影响，我们发现相关性对算法补救具有相当的贡献，同时能提高效率和降低相对成本。

    May, 2024