跨群组平等配给资源
本文介绍了整数规划工具,以确保在线性分类问题中具有追索权,其中一个人通过更改可操作的输入变量(例如收入与年龄或婚姻状况)来改变模型的决策,并演示了这些工具如何通过信用评分问题的实验向利益相关者提供信息,结果表明,标准的模型开发实践可以极大地影响追索权,并促进实际中对追索权的评估。
Sep, 2018
我们提出了一种基于机器学习的回溯算法,用于提供决策结果不理想的人可以采取的可操作的一系列改变,以改善他们的结果。我们的算法可适用于各个不同 iable 的基于机器学习的决策系统,并填补了关于公平性的现有文献的不足之处。
Jul, 2019
本研究从补救行动的角度研究算法公正性,提出两个新的公正性准则,明确考虑特征之间的因果关系,从而捕捉在物理世界中执行的补救行动的下游效应。我们探讨了我们的标准与其他标准,如反事实公正性的关系,并且证明了补救公正性与预测公正性互补。最后,我们讨论了是否可以通过社会干预来更好地解决数据生成过程中的公正性违规问题,而不是限制分类器。
Oct, 2020
此篇论文提出了两个关于算法追溯的公平性概念,与机会的实质平等以及时间相关,通过建立一个基于代理的模拟追溯框架,展示了在克服初始差异情况下所需的努力,并提出了一种提高追溯公平性的干预措施,并与现有策略进行了比较。
Jan, 2024
本文研究了机器学习中的算法回溯问题,在考虑了精度和鲁棒性之外,提出应当考虑公平、隐私、责任和可解释性等价值观,并对相关文献进行了全面审视,提出了一些解决方案。同时,作者还为该领域的研究方向提供了一些新的视角和方向,挑战了一些关于安全、隐私和公平性方面的假设。
Oct, 2020
提出了一个学习理论框架,比较了分类有和没有算法追溯的风险,发现在许多情况下提供算法追溯反而有害,因为它会使用户产生更多的错误。此外,提供算法追溯有时会对系统整体造成伤害。因此,对当前的算法追溯概念需要重新思考。
Jun, 2023
机器学习模型在决定贷款、工作面试或公共福利分配时经常使用。本文介绍了一种被称为回溯验证的形式化测试过程,用于标记分配固定预测的模型,并提供工具来设计在开发模型时考虑行动性的算法。
Aug, 2023