风险评估工具中的公平性：后处理实现反事实平等几率

Sep, 2020

风险评估工具中的公平性：后处理实现反事实平等几率

Fairness in Risk Assessment Instruments: Post-Processing to Achieve Counterfactual Equalized Odds

Alan Mishler, Edward H. Kennedy, Alexandra Chouldechova

TL;DR本文提出了一种通过 Doubly Robust 估计器扩展并调整之前的后处理方法来预测反事实情形下的公平解释器的方法，并提供了任意定制后处理解释器的风险和公平性的 Doubly Robust 估计器。其结果可以更好地应用于 Risk Assessment Instruments 这样的领域。

Abstract

In domains such as criminal justice, medicine, and social welfare, decision makers increasingly have access to algorithmic risk assessment instruments (RAIs). RAIs estimate the risk of an adverse outcome such as recidivism or child neglect, potentially informing high-stakes decisions s

risk assessment instruments algorithmic fairness counterfactual equalized odds post-processed predictor doubly robust estimators

发现论文，激发创造

反事实风险评估、评价和公平性

本文提出了针对算法风险评估工具的反事实度量方法，并使用双重稳健估计方法估算反事实度量。作者提出的度量方法更适合在决策上下文中使用；因此，纵观标准公平度量和反事实度量，两者仅在特定条件下才能同时成立，本文提供了理论结果和实证结果以证明他们的方法优于标准做法。

Aug, 2019

公平临床风险预测的反事实推理

本文使用机器学习系统支持决策制定在医疗保健中的问答涉及使用电子医疗记录中的观察性数据中隐含的偏见，进而进一步发展了组公平性标准，以在个体层面上扩展增益计数事实公正标准，探讨扩增的标准是否可以应用于使用观测性电子健康记录数据的病人长住和死亡的公平模型的开发。通过一个假设因果图的变分自动编码器来执行反事实推理，提供了一种在学习生成模型的背景下，在公平维护与预测性能下降之间权衡的方法。

Jul, 2019

COMPAS 繁琐：RAI 数据集与算法公平基准之间的混乱关系

利用风险评估工具数据集（RAI），特别是 ProPublica 的 COMPAS 数据集来比较算法性能是常见的，然而我们发现这些数据集可能会存在大量的测量偏差和错误，而且算法公平性应用于 RAI 数据集在对现实世界结果提出要求时具有局限性。此外，如何进行算法公平性实践是受到了对公平，正义和平等价值观的透明参与的影响，而且这些因素引出了一个问题，即这些在本质上是社会技术系统的基准是否可以以有益和合乎道德的方式存在。

Jun, 2021

刑事司法风险评估中的公正性：现状

本文结合犯罪学、计算机科学和统计学等多个领域的文献，探讨了刑事司法风险评估中的公平性和准确性之间的权衡，揭示了至少六种不同的公平性，其中一些不仅彼此不兼容，而且与准确性不兼容。研究发现，实际上很难在同一时间达到准确性和公平性的最大化，并且很难同时满足所有公平的要求，需进行权衡和考量。

Mar, 2017

具有不同影响的公平预测：再犯罪预测工具中偏见研究

本文讨论了最近被应用于评估惯犯再犯预测工具公平性的几个公正标准，证明了当不同群体的惯犯再犯率不同时，这些标准无法同时满足。然后说明了当再犯预测工具未能满足错误率平衡标准时如何产生不同影响。

Feb, 2017

透过反事实预测实现平等机会和肯定行动

本文提出了两个算法，通过因果模型和反事实决策来实现公平的机器学习预测器，以实现提供平等机会和重修历史劣势。在包括招生、收入、信用和再犯等领域的数据集上进行评估与权衡，结果表明这些预测器在理论上达到了预测性能的最优，同时满足公平性。

May, 2019

算法决策中人类对公平性的感知研究：刑事风险预测案例研究

该研究调查用户对算法决策公平性的看法，并提出了一个框架来了解人们如何认识和判断决策算法的公平性。他们通过与 576 人的一系列情境调查，验证了这一框架，并发现人们关注的不公平问题是多方面的。在高层次上，该研究显示人们的不公平关注是多维度的，未来的研究需解决超出歧视范围的不公平关注问题；在低层次上，研究表明人们在公平判断上存在着相当的分歧，但同时也提出了解决这些分歧的可能途径。

Feb, 2018

反事实公平机会：利用反事实推理测量决策模型公平性

本研究提出一种利用反事实推理揭示机器学习和去偏见模型不公平行为的方法，在三个不同数据集上获得验证。

Feb, 2023

反事实公平性

本文提出了一个利用因果推断工具来建立公正性模型的框架，以避免机器学习在保险、贷款、雇佣和预测执法等领域的不公正决策，避免造成基于不公正数据的歧视性做法，以法学院成功的公平预测为实际问题进行了实证研究。

Mar, 2017

放射学人工智能中的公平性导航：概念、后果和关键考虑

本文评述了人工智能在放射学中的应用，特别关注了平等和比例性公正等算法的实际使用以及如何使用开源的 Aequitas 工具包进行偏见审计，以确保数据集的公正性和避免 AI 模型中的隐含偏见。

Jun, 2023