机器学习系统可能基于性别、性别、宗教或种族等敏感特征表现出歧视行为，因此提出了各种公平性概念和量化歧视方法，并发展了构建公平预测器的众多方法。本研究首次从因果角度分析了公平性和准确性之间的紧张关系，提出了路径特定过量损失（PSEL）的概念来衡量当强制施加因果公平性约束时预测器的损失增加程度，并证明了总过量损失（TEL）可以分解为更多本地 PSEL 值的总和。同时，强制施加因果约束通常会减少人群之间的差距。因此，我们引入了一个数量，用于总结公平性和效用之间的权衡，称为因果公平 / 效用比，定义为减少歧视与约束因果路径产生的过量损失之间的比值。最后，由于我们的方法需要具有因果约束的公平预测器，我们介绍了一种新的用于因果约束公平学习的神经方法。

May, 2024

准确测量在基于机器学习的自动决策系统中的歧视是解决子群体和 / 或个体间公平性的重要问题所必需的。本文关注于在生成和 / 或收集训练数据的方式中出现的一类偏见，我们称之为因果偏见，并使用因果关系领域的工具来正式定义和分析此类偏见。本文考虑了四种来源的偏见，即混杂、选择、测量和交互。本文的主要贡献是为每种偏见提供了一个基于模型参数的闭合表达式。这使得分析每种偏见的行为成为可能，特别是在哪些情况下它们不存在，以及在哪些其他情况下它们被最大化。我们希望提供的特征有助于社会更好地理解机器学习应用中偏见的来源。

Oct, 2023

机器学习方法在临床决策中的重要性日益提升，因此解决公平性问题变得越来越迫切。尽管已经有很多工作致力于检测和改善算法偏见，但目前的方法存在缺陷和潜在危害。我们提出因果角度来研究算法偏见，强调数据集偏见的不同来源可能看起来相似，但需要采用截然不同的缓解策略。我们从盛行度、呈现度和注释差异三个因果偏见机制的角度进行分析。我们提供了一个实用的三步骤框架，用于思考医学影像公平性，支持开发安全和公正的 AI 预测模型。

Jul, 2023

该研究引入了一种灵活的机制，以设计公平的分类器，其中利用了一种新颖的、直观的决策边界（不）公平度量，并结合实际的数据表明，该机制在维持准确度的小代价下，允许对公平度进行微调。

Jul, 2015

公平机器学习的早期专注是确保由算法指导的决策是公平的，三个公平定义引起了人们的关注，即反分类，分类平衡和校准，但这三个公平定义都有重大的统计局限性。相比之下，我们认为更倾向于根据最准确的风险估计对类似风险的人进行相似的处理，而不是一定要满足公平的数学定义，并强调这种方法需要大量的努力来构建适当的风险估计。

Jul, 2018

本文提出了门槛不变的公平性的概念，通过两种近似方法来均衡不同群体之间的风险分布，实现了对机器学习模型公平性的提高。

Jun, 2020

机器学习中的公平干预可能会加剧预测复杂性，而提出了一种可应用于任何公平干预的集成算法来解决挑战并确保更一致的预测。

Jun, 2023

通过解释的方式，我们提出了基于过程的公正度并识别了过程相关偏见，并通过优化目标设计了一种综合公正度算法，以在提高传统公正度、满足解释公正度和维护实用性能之间达到多重目标的平衡。

Dec, 2022

本文通過創建因果貝葉斯知識圖，對機器學習模型中的歷史數據中現有的偏見進行了發現，提出了一種新的基於風險差的算法，以量化每個受保護變量在圖中的歧視影響力，以及一種快速適應的偏差控制方法，在元學習中高效地減少了組的不公平性，最終在合成和實際數據集上進行了廣泛實驗，證明了我們提出的不公平發現和防治方法可以高效地檢測偏見並減輕模型輸出上的偏見以及對訓練樣本量少的未見任務的精度和公平度的泛化。

Sep, 2020

该文探讨了机器学习中的公平性与准确性的权衡以及该领域中存在的数学假设，认为这些假设可能导致不一致的结论和潜在的不公平性，并提出了解决方案。

Feb, 2021