AAAIOct, 2020

因果算法补救措施公平性研究

PDF
TL;DR本研究从补救行动的角度研究算法公正性，提出两个新的公正性准则，明确考虑特征之间的因果关系，从而捕捉在物理世界中执行的补救行动的下游效应。我们探讨了我们的标准与其他标准，如反事实公正性的关系，并且证明了补救公正性与预测公正性互补。最后，我们讨论了是否可以通过社会干预来更好地解决数据生成过程中的公正性违规问题，而不是限制分类器。
algorithmic fairnessrecourse actionsfairness criteriacausal relationshipsdownstream effects
发现论文，激发创造
  • 算法追责中的公平：以实质机会平等为视角

    此篇论文提出了两个关于算法追溯的公平性概念，与机会的实质平等以及时间相关，通过建立一个基于代理的模拟追溯框架，展示了在克服初始差异情况下所需的努力，并提出了一种提高追溯公平性的干预措施，并与现有策略进行了比较。

    Jan, 2024

  • 跨群组平等配给资源

    本文讨论如何建立一个能够准确预测并确保负面影响不会对不同群体产生不成比例影响的模型，通过优化无论是线性设置还是非线性设置的归属度，来减小归属度不公平现象的发生。

    Sep, 2019

  • 黑盒决策系统中逼近真实个体补救和可操作解释

    我们提出了一种基于机器学习的回溯算法，用于提供决策结果不理想的人可以采取的可操作的一系列改变，以改善他们的结果。我们的算法可适用于各个不同 iable 的基于机器学习的决策系统，并填补了关于公平性的现有文献的不足之处。

    Jul, 2019

  • 因果算法对抗鲁棒性

    该论文研究算法性救济，包括在自动化决策系统中提供可行的建议，如何在相关不利的情况下提供建议并保持鲁棒性，通过正则化决策分类器来促进鲁棒救济。

    Dec, 2021

  • 不完善因果知识下的算法补救：一种概率方法

    通过两种概率方法选取最优行动以在有限的因果知识下实现补救，以解决缺乏真实结构因果模型的限制，并在不完美的因果知识下提供比非概率基线更可靠的建议。

    Jun, 2020

  • 算法追索综述：定义、公式、解决方案及展望

    本文研究了机器学习中的算法回溯问题，在考虑了精度和鲁棒性之外，提出应当考虑公平、隐私、责任和可解释性等价值观，并对相关文献进行了全面审视，提出了一些解决方案。同时，作者还为该领域的研究方向提供了一些新的视角和方向，挑战了一些关于安全、隐私和公平性方面的假设。

    Oct, 2020

  • 因果公平概念及其后果

    通过分析算法公平性的因果定义，本文发现无论是基于对抗偏见的决策影响还是基于法律保护分类的影响，这些定义几乎总是以极端帕累托支配的决策方案结束，这突显了因果公平性普遍数学概念的形式限制和潜在的不良后果。

    Jul, 2022

  • 局部引导的顺序算法补救的反事实解释

    通过算法补偿实施的反事实推演已成为使人工智能系统具有可解释性的强大工具，本文提出了一种名为 LocalFACE 的模型不可知技术，通过局部获取的信息在每个算法补偿步骤中构建可行且可操作的反事实解释。

    Sep, 2023

  • 算法决策中的公平：通过因果镜头探究

    本研究通过因果模型的视角考虑了决策系统是否基于性别、种族、宗教等方面会造成歧视的问题，引入了基于因果关系的群体公平的两个定义：FACE 和 FACT，提出了鲁宾 - 尼曼潜在结果框架来鲁棒地估算 FACE 和 FACT，并在合成数据上展示了方法的有效性。同时，作者还在真实数据集上进行了分析，发现 FACT 比 FACE 更微妙，在不同情形下可得出不同结论。

    Mar, 2019

  • 二分类中追溯风险

    提出了一个学习理论框架，比较了分类有和没有算法追溯的风险，发现在许多情况下提供算法追溯反而有害，因为它会使用户产生更多的错误。此外，提供算法追溯有时会对系统整体造成伤害。因此，对当前的算法追溯概念需要重新思考。

    Jun, 2023