Feb, 2017

具有不同影响的公平预测：再犯罪预测工具中偏见研究

PDF
TL;DR本文讨论了最近被应用于评估惯犯再犯预测工具公平性的几个公正标准，证明了当不同群体的惯犯再犯率不同时，这些标准无法同时满足。然后说明了当再犯预测工具未能满足错误率平衡标准时如何产生不同影响。
recidivism prediction instrumentsfairness criteriadiscriminatory biasdisparate impacterror rate balance
发现论文，激发创造
  • 风险评估工具中的公平性：后处理实现反事实平等几率

    本文提出了一种通过 Doubly Robust 估计器扩展并调整之前的后处理方法来预测反事实情形下的公平解释器的方法，并提供了任意定制后处理解释器的风险和公平性的 Doubly Robust 估计器。其结果可以更好地应用于 Risk Assessment Instruments 这样的领域。

    Sep, 2020

  • 案例研究：通过社会服务干预预测公平减少轻罪累犯

    介绍了洛杉矶市检察官办公室新的累犯降低和药物转变组（R2D2），以基于机器学习的决策制定中的预测公平性的案例研究促进效率和公平，旨在通过发展量身定制的社会服务干预方案，改善曾多次卷入刑事司法系统的人的结果。

    Jan, 2020

  • 存在偏倚嘈杂标签时的公平性评估

    本论文提出了一种风险评估模型的敏感性分析框架，用于评估不同群体的标签误差对模型的预测偏差性能的影响，在两个真实的刑事司法数据集上的实验结果表明，即使观察标签中存在小的偏差也可能会对基于噪音结果的分析的结论提出质疑。

    Mar, 2020

  • 通过敌对学习实现公平：一个针对累犯预测的应用

    通过对抗式训练神经网络来消除 COMPAS 分数对黑人囚犯的不公平偏见，我们获得了更高的预测准确性，并更接近实现公平的两个指标：平等和机会均等性。这项研究提供了一个高风险的现实应用中科学复制和简化的例子，即再犯预测。

    Jun, 2018

  • 刑罚再犯预测中的算法偏见：因果视角

    本文分析了一个犯罪预测软件工具 (COMPAS) 对美国非裔被告的偏见，使用因果推断方法来估算算法公平性的因果相关性测量指标 (FACT)，得出了 COMPAS 在预测中存在着对非洲裔被告的种族偏见，并且其估算结果对未测量到的混淆因素具有鲁棒性。

    Nov, 2019

  • 干预优先于预测：重新构建精算风险评估的道德辩论

    针对风险评估的核心伦理辩论不仅仅是偏差或准确性的问题，而是目的的问题。机器学习不应用于预测，而是用于发现进入因果模型的协变量，以了解犯罪的社会，结构和心理驱动因素。我们提出了一种机器学习和因果推断的替代应用，从预测风险分数转向风险缓解。

    Dec, 2017

  • COMPAS 繁琐：RAI 数据集与算法公平基准之间的混乱关系

    利用风险评估工具数据集（RAI），特别是 ProPublica 的 COMPAS 数据集来比较算法性能是常见的，然而我们发现这些数据集可能会存在大量的测量偏差和错误，而且算法公平性应用于 RAI 数据集在对现实世界结果提出要求时具有局限性。此外，如何进行算法公平性实践是受到了对公平，正义和平等价值观的透明参与的影响，而且这些因素引出了一个问题，即这些在本质上是社会技术系统的基准是否可以以有益和合乎道德的方式存在。

    Jun, 2021

  • 不充分的公正差异影响：一种新的子群公平标准

    该论文提出了一种新的标准，“不充分证明的不同影响”（IJDI），用于评估算法决策支持工具所提供的建议（二元化预测）是否公平，并通过 IJDI-Scan 方法高效地确定数据的多个观察属性的交会子人口中的最显著 IJDI。

    Jun, 2023

  • 我的分类器为什么具有歧视性？

    针对敏感应用如医疗保健或刑事司法等领域，本研究旨在解决在预测模型中公平性与准确性的平衡问题，并提出，应该在数据的背景下评估预测结果的公平性，并通过数据收集来解决样本大小或未测量的预测变量所带来的不公平性，同时通过将成本基准的歧视度量分解为偏差，方差和噪音，并提出旨在估计和减少每个术语的行动。最后，本文以收入，死亡率和审查等领域的预测为案例研究，确认这种分析方法的价值，并发现数据收集通常是减少歧视而不牺牲准确性的手段。

    May, 2018

  • 再犯预测中保密和不公时代的到来

    我们的研究旨在解决现代社会中的问题：即不能透明化的算法会导致错误的结论，而透明化可以更好地保证公平和公正。我们通过对一个包括年龄和种族在内的偏差算法的反向工程分析，发现了数据不一致的情况，从而对于透明化趋势的影响进行了讨论。

    Nov, 2018