May, 2024

消除偏见的偏见决策模型比较：基于抵押贷款申请数据的方法对比

PDF
TL;DR通过对房屋贷款申请决策的真实数据添加反事实（模拟）种族偏见，本文展示了即使没有将族裔作为预测变量，机器学习模型（XGBoost）仍然会重复这种偏见。接下来比较了几种去偏方法：禁止变量的平均值、在禁止变量中选择最优预测（一种新方法）以及同时最小化误差和预测与禁止变量之间的关联。去偏可以恢复部分原始决策，但结果对于偏见是否通过代理方式产生是敏感的。
prediction modelsbiasloan applicationsde-biasing methodsmachine learning
发现论文，激发创造
  • 揭示机器偏见之源

    该研究使用结构经济模型分析了在线小额贷款平台上人类评估者的决策动力，并估算了模型参数。研究发现人类评估者的决策中存在基于偏好和信念两种类型的性别偏见，均偏向女性申请人。通过对事实模拟，研究量化了性别偏见对贷款授予结果和公司及借款人福利的影响。研究还发现，机器学习算法可以缓解偏好和信念两种性别偏见。

    Jan, 2022

  • 移除偏见数据以提高公平性和准确性

    提出了一种黑盒子方法，用于识别和消除具有偏见的训练数据，以减少机器学习所带来的偏见，此方法在实验中显示出比之前的方法更佳的个体歧视和准确性表现。

    Feb, 2021

  • 公平信貸評分的算法決策方法

    本研究探讨了 12 种顶级的偏差缓解方法，讨论其性能，基于 5 种不同的公平度量标准、实现的准确性和金融机构的潜在利润。我们的研究结果表明，在保留准确性和利润的前提下实现公平存在困难，同时突出了一些最佳和最差的表现，并有助于实验机器学习和其工业应用之间的联系。

    Sep, 2022

  • 在没有民族信息的情况下进行 NLP 模型去偏见化

    本研究提出了一种去偏见的方法，利用辅助模型检测出具有偏见的数据样本并在训练过程中进行下权重处理，从而实现在没有昂贵的人口统计学注释过程的情况下缓解社会偏见。

    Dec, 2022

  • 一种移除敏感信息的算法应用于独立于种族的再犯罪预测

    本文提出了一种概率算法偏见的方法，通过消除模型将要训练的数据中所有关于保护变量的信息来消除模型中的偏见。我们将我们的方法应用于一个关于罪犯在被判决时的犯罪历史数据集，并证明了一种创建 “种族中立” 模型的常见方法 - 即忽略种族作为协变量 - 仍然会导致种族差异预测。最后，我们证明了采用我们提出的方法可以最小限度地对预测精度产生影响，同时消除预测中的种族差异。

    Mar, 2017

  • 公平预测算法的统计框架

    本文提出了通过从可允许的训练数据中去除保护变量的所有信息来消除预测模型偏见的方法，并将其应用于罪犯记录的数据集以产生种族中立的再逮捕预测方案，证明了将种族作为协变量省略的方式仍导致存在种族差异，并且证明了应用我们提出的方法可以将这些数据中的种族差异从预测中去除，并对预测准确性的影响最小。

    Oct, 2016

  • 人口平等：缓解现实世界数据中的偏见

    计算机决策系统在许多日常生活的方面得到广泛应用，但其中可能存在性别、种族或其他偏见问题。本研究提出一种鲁棒的方法，通过真实世界数据提取出表征人口平衡和真实性的数据集，用于训练分类器，并测试其泛化能力，证实计算机辅助决策中不存在明示或隐含偏见。

    Sep, 2023

  • 使用 Datamodels（D3M）进行数据去偏：通过数据选择提高子群体鲁棒性

    使用 Data Debiasing with Datamodels (D3M) 方法，在不需要训练组注释或额外的超参数调整的情况下，通过隔离和移除导致模型在少数群体上失败的特定训练样本，可以高效地训练去偏置分类器。

    Jun, 2024

  • 推荐作为治疗方案：去偏见化学习和评估

    该研究提供了一种使用因果推论来处理选择偏差的方法，可实现对推荐系统的评估和训练，并获得实际数据上显着改善的预测效果。

    Feb, 2016

  • 利用弱监督学习方法消除机器学习模型中的偏见

    我们提出了针对连续敏感变量的偏见缓解策略，该策略基于经济计量学领域的内生性概念，并采用弱监督学习方法，对一小部分可进行公平测量的数据进行处理。结果表明我们的方法对实际应用的效果非常接近。

    Feb, 2024