机器学习系统可能基于性别、性别、宗教或种族等敏感特征表现出歧视行为，因此提出了各种公平性概念和量化歧视方法，并发展了构建公平预测器的众多方法。本研究首次从因果角度分析了公平性和准确性之间的紧张关系，提出了路径特定过量损失（PSEL）的概念来衡量当强制施加因果公平性约束时预测器的损失增加程度，并证明了总过量损失（TEL）可以分解为更多本地 PSEL 值的总和。同时，强制施加因果约束通常会减少人群之间的差距。因此，我们引入了一个数量，用于总结公平性和效用之间的权衡，称为因果公平 / 效用比，定义为减少歧视与约束因果路径产生的过量损失之间的比值。最后，由于我们的方法需要具有因果约束的公平预测器，我们介绍了一种新的用于因果约束公平学习的神经方法。

May, 2024

该研究探讨了机器学习中公平性的定义和测量方法，提出了基于因果推理的非歧视标准，并开发了相应的算法。

Jun, 2017

通过分析算法公平性的因果定义，本文发现无论是基于对抗偏见的决策影响还是基于法律保护分类的影响，这些定义几乎总是以极端帕累托支配的决策方案结束，这突显了因果公平性普遍数学概念的形式限制和潜在的不良后果。

Jul, 2022

本文提出了一个因果公平性分析的框架，以理解、建模和可能解决决策设置中的公平问题。研究挑战是挖掘潜在的因果机制并将各种公平度量与结构机制和人口单位归因。最后，提出了一个公平的菜谱，以评估不公平对各个人群的影响。

Jul, 2022

在复杂情景中，针对敏感因素同时影响公平和不公平决策的情境下，本文提出了采用因果学方法来消除不公平路径效应的模型，并利用深度学习和近似推理实现了一个广泛适用于复杂非线性场景的解决方案。

Feb, 2018

本研究通过因果模型的视角考虑了决策系统是否基于性别、种族、宗教等方面会造成歧视的问题，引入了基于因果关系的群体公平的两个定义：FACE 和 FACT，提出了鲁宾 - 尼曼潜在结果框架来鲁棒地估算 FACE 和 FACT，并在合成数据上展示了方法的有效性。同时，作者还在真实数据集上进行了分析，发现 FACT 比 FACE 更微妙，在不同情形下可得出不同结论。

Mar, 2019

社会决策中公平性是最值得追求的原则之一，它在过去几十年中得到了广泛研究，近年来也得到了多智能体系统社区的重视。然而，这些研究往往不能充分捕捉到现实世界问题的复杂性和人们对公平性的认知。我们认为，社会规划者（设计者）不仅应该认为公平解是可取的，而且应该以人类和社会认知为基础，考虑基于人类判断的感知结果，并且可以进行验证。为了实现这一目标，需要从计算和人工智能到行为经济学和人机交互等广泛跨学科的方法。在这样做的过程中，我们指出了当前公平分配文献的不足和长期挑战，描述了近期在解决这些问题方面的努力，并更重要地强调了一系列开放的研究方向。

Dec, 2023

因果推理对于评估公平性至关重要，尤其是自动化决策和合法反歧视程序中。在实践中应用因果关系的挑战和限制以及可能的解决方案也进行了讨论。

Jul, 2022

本文提出了一个简单的概率模型，可应用于感知和逻辑推理，它将两种过程统一起来：一方面是感知和逻辑知识从另一个知识中派生的过程，另一方面是从数据中派生出这种知识的过程，并且在逻辑推理中完全描述了该模型。

Jun, 2022

本文探讨了基于因果关系的公平性概念及其在实际场景中的适用性，并针对采用观察数据估计因果量的不同方法，包括可辨识性和潜在结果框架进行了综合报告，提供出一个指南来帮助选择适合特定实际场景的公平性概念，并根据 Pearl 的因果推理难度对公平性概念进行了排名。

Oct, 2020