WWWMar, 2019

算法决策中的公平：通过因果镜头探究

PDF
TL;DR本研究通过因果模型的视角考虑了决策系统是否基于性别、种族、宗教等方面会造成歧视的问题，引入了基于因果关系的群体公平的两个定义：FACE 和 FACT，提出了鲁宾 - 尼曼潜在结果框架来鲁棒地估算 FACE 和 FACT，并在合成数据上展示了方法的有效性。同时，作者还在真实数据集上进行了分析，发现 FACT 比 FACE 更微妙，在不同情形下可得出不同结论。
发现论文，激发创造
  • 因果推断用于公平性

    本文强调通过因果关系的发现步骤，适当地使用因果关系来解决公平性问题的重要性，并且通过使用合成和标准公平性基准数据集的实证分析来证实了即使微小的因果模型差异也可能对公平性 / 歧视的结论产生重大影响。

    Jun, 2022

  • 因果公平概念及其后果

    通过分析算法公平性的因果定义，本文发现无论是基于对抗偏见的决策影响还是基于法律保护分类的影响，这些定义几乎总是以极端帕累托支配的决策方案结束，这突显了因果公平性普遍数学概念的形式限制和潜在的不良后果。

    Jul, 2022

  • 因果公平性分析

    本文提出了一个因果公平性分析的框架，以理解、建模和可能解决决策设置中的公平问题。研究挑战是挖掘潜在的因果机制并将各种公平度量与结构机制和人口单位归因。最后，提出了一个公平的菜谱，以评估不公平对各个人群的影响。

    Jul, 2022

  • 公平性 - 准确性权衡：因果视角

    机器学习系统可能基于性别、性别、宗教或种族等敏感特征表现出歧视行为，因此提出了各种公平性概念和量化歧视方法，并发展了构建公平预测器的众多方法。本研究首次从因果角度分析了公平性和准确性之间的紧张关系，提出了路径特定过量损失（PSEL）的概念来衡量当强制施加因果公平性约束时预测器的损失增加程度，并证明了总过量损失（TEL）可以分解为更多本地 PSEL 值的总和。同时，强制施加因果约束通常会减少人群之间的差距。因此，我们引入了一个数量，用于总结公平性和效用之间的权衡，称为因果公平 / 效用比，定义为减少歧视与约束因果路径产生的过量损失之间的比值。最后，由于我们的方法需要具有因果约束的公平预测器，我们介绍了一种新的用于因果约束公平学习的神经方法。

    May, 2024

  • 因果公平的结果控制

    本文研究了一种被称为结果控制的决策任务，尝试在实现最优结果的同时保证公平性，介绍了一种最小公平性要求的算法，并提出了分析受保护属性影响的工具。最后，提出了因果效益公平性的概念，并提出了一种新的最优化程序，能够确保决策过程中的因果公平性。

    Jun, 2023

  • 关于因果性在公正机器学习中的必要性和适用性

    因果推理对于评估公平性至关重要，尤其是自动化决策和合法反歧视程序中。在实践中应用因果关系的挑战和限制以及可能的解决方案也进行了讨论。

    Jul, 2022

  • 通过因果推理避免歧视

    该研究探讨了机器学习中公平性的定义和测量方法，提出了基于因果推理的非歧视标准，并开发了相应的算法。

    Jun, 2017

  • 在 NLP 模型中同时解决统计性别公平性和因果性别公平性

    本研究评估了性别偏见的 NLP 模型的统计和因果去偏方法，发现这些方法在目标度量上有效减少了偏见，但不一定改善了其他偏见度量的结果。同时，我们展示了统计和因果去偏技术的组合能够减少通过两种类型的度量来衡量的偏见。

    Mar, 2024

  • 因果算法补救措施公平性研究

    本研究从补救行动的角度研究算法公正性，提出两个新的公正性准则，明确考虑特征之间的因果关系，从而捕捉在物理世界中执行的补救行动的下游效应。我们探讨了我们的标准与其他标准，如反事实公正性的关系，并且证明了补救公正性与预测公正性互补。最后，我们讨论了是否可以通过社会干预来更好地解决数据生成过程中的公正性违规问题，而不是限制分类器。

    Oct, 2020

  • 因果机器学习公平性概念调查

    本文探讨了基于因果关系的公平性概念及其在实际场景中的适用性，并针对采用观察数据估计因果量的不同方法，包括可辨识性和潜在结果框架进行了综合报告，提供出一个指南来帮助选择适合特定实际场景的公平性概念，并根据 Pearl 的因果推理难度对公平性概念进行了排名。

    Oct, 2020