因果背景连接反事实公平与稳健预测和群体公平

Oct, 2023

因果背景连接反事实公平与稳健预测和群体公平

Causal Context Connects Counterfactual Fairness to Robust Prediction and Group Fairness

Jacy Reese Anthis, Victor Veitch

TL;DR我们利用因果上下文桥接了反事实公平、鲁棒预测和群体公平之间的差距，展示了它们之间的等价关系，并通过测量相对简单的群体公平指标来测试反事实公平。

Abstract

counterfactual fairness requires that a person would have been classified in the same way by an AI or other algorithmic system if they had a different protected class, such as a different race or gender. This is an intuitive standard, as reflected in the U.S. legal system, but its use

counterfactual fairness group fairness metrics causal context robust prediction fairness contexts

发现论文，激发创造

反事实公平性

本文提出了一个利用因果推断工具来建立公正性模型的框架，以避免机器学习在保险、贷款、雇佣和预测执法等领域的不公正决策，避免造成基于不公正数据的歧视性做法，以法学院成功的公平预测为实际问题进行了实证研究。

Mar, 2017

公平临床风险预测的反事实推理

本文使用机器学习系统支持决策制定在医疗保健中的问答涉及使用电子医疗记录中的观察性数据中隐含的偏见，进而进一步发展了组公平性标准，以在个体层面上扩展增益计数事实公正标准，探讨扩增的标准是否可以应用于使用观测性电子健康记录数据的病人长住和死亡的公平模型的开发。通过一个假设因果图的变分自动编码器来执行反事实推理，提供了一种在学习生成模型的背景下，在公平维护与预测性能下降之间权衡的方法。

Jul, 2019

反事实公平表达

在这项研究中，我们提出了一种使用所有可用特征进行训练的新算法，从理论和实证方面证明了使用该方法训练的模型能够满足 Counterfactual Fairness。

Nov, 2023

从观测数据中学习反事实公平性

本文提出了一种新的框架 CLAIRE，通过对反事实数据增广和不变化惩罚的表征学习框架有效地减轻了敏感属性的偏差，并在合成和真实数据集上的实验验证了 CLAIRE 在反事实公平性和预测性能方面的优越性。

Jul, 2023

反事实公平机会：利用反事实推理测量决策模型公平性

本研究提出一种利用反事实推理揭示机器学习和去偏见模型不公平行为的方法，在三个不同数据集上获得验证。

Feb, 2023

PC-Fairness: 基于因果关系公平的统一框架

本研究提出了一种计算因果公平性的框架，其中定义了一个旨在涵盖前期因果公平概念的统一定义，并使用约束优化问题对路径特定反事实公平性进行了界定，以解决可辨识性的问题，实验表明了本方法的正确性和有效性。

Oct, 2019

在 NLP 模型中同时解决统计性别公平性和因果性别公平性

本研究评估了性别偏见的 NLP 模型的统计和因果去偏方法，发现这些方法在目标度量上有效减少了偏见，但不一定改善了其他偏见度量的结果。同时，我们展示了统计和因果去偏技术的组合能够减少通过两种类型的度量来衡量的偏见。

Mar, 2024

通过鲁棒性实现文本分类的反事实公平性

本文研究文本分类中的反事实公平性问题，提出了一种度量特定公平性形式 —— 反事实令牌公平性 (CTF) 的度量准则，利用三种方法 —— 盲化、反事实增强和反事实逻辑配对 (CL) 解决训练中的反事实令牌公平性优化问题，这些方法不会影响分类器性能，并且在小组公平性方面具有变化，为解决文本分类中的公平性问题提供了新的途径。

Sep, 2018

预测敏感性：部署的分类器中反事实公平性的持续审计

该研究提出了一种基于预测敏感性的方案，用于对已部署的分类器进行持续审计，以识别反对事实上的公正性。该方案不需要保护状态信息的预测时间，可以利用保护状态和其他特征之间的相关性，并展示了该方法有效检测反对事实上公正性的违规情况。

Feb, 2022

反事实公平并非人口均衡，以及其他观察

对因果概念和纯概率概念之间的等价性陈述应谨慎对待。本文研究最近关于反事实公平与人口平衡之间等价的主张，并发现该主张经不起深入研究的验证。我也将借此机会澄清一些关于反事实公平的更广泛的误解。

Feb, 2024