Jun, 2018

通过敌对学习实现公平：一个针对累犯预测的应用

PDF
TL;DR通过对抗式训练神经网络来消除 COMPAS 分数对黑人囚犯的不公平偏见，我们获得了更高的预测准确性，并更接近实现公平的两个指标：平等和机会均等性。这项研究提供了一个高风险的现实应用中科学复制和简化的例子，即再犯预测。
recidivism predictioncompas scoreracial biasadversarially-trained neural networkfairness measures
发现论文，激发创造
  • 刑罚再犯预测中的算法偏见：因果视角

    本文分析了一个犯罪预测软件工具 (COMPAS) 对美国非裔被告的偏见，使用因果推断方法来估算算法公平性的因果相关性测量指标 (FACT)，得出了 COMPAS 在预测中存在着对非洲裔被告的种族偏见，并且其估算结果对未测量到的混淆因素具有鲁棒性。

    Nov, 2019

  • 再犯预测中保密和不公时代的到来

    我们的研究旨在解决现代社会中的问题：即不能透明化的算法会导致错误的结论，而透明化可以更好地保证公平和公正。我们通过对一个包括年龄和种族在内的偏差算法的反向工程分析，发现了数据不一致的情况，从而对于透明化趋势的影响进行了讨论。

    Nov, 2018

  • 研究人类与机器的互补性用于累犯预测

    本研究通过对机器预测结果与多个 Turk 工人预测结果的比较，探讨了人机混合模型在预测再犯罪风险时的优劣势，旨在更好地利用人工智能和人工智能之间的互补优势，以更公平、准确地进行风险评估。

    Aug, 2018

  • 案例研究：通过社会服务干预预测公平减少轻罪累犯

    介绍了洛杉矶市检察官办公室新的累犯降低和药物转变组（R2D2），以基于机器学习的决策制定中的预测公平性的案例研究促进效率和公平，旨在通过发展量身定制的社会服务干预方案，改善曾多次卷入刑事司法系统的人的结果。

    Jan, 2020

  • 重新审视 ProPublica 的 COMPAS 数据

    研究了 ProPublica 2016 年收集的 COMPAS 犯罪史和再次犯罪风险评分数据，发现数据处理错误导致重新划分 COMPAS 筛查日期后，此数据集中的再次犯罪率人为高估了超过 24％，并影响了阳性和阴性预测值。

    Jun, 2019

  • 对使用人工监督的 COMPAS 数据学习公平度量的实证研究

    本研究通过收集新的人员判断数据，尝试从人员标注数据中学习类似度度量，以实现个人公平性。研究结果表明，所学度量优于欧几里得度量和精度度量，并为学习诸如个人公平度量之类的度量提供了一种工具。

    Oct, 2019

  • 深度学习短期犯罪预测中提高公平性的研究

    本研究提出了一种新颖的深度学习架构，结合了预处理方法和处理方法来提高预测的公平性，结果表明相比于偏见校正方法和没有任何偏见校正的模型，所提出的模型在提高犯罪预测的公平性方面取得了进步，但牺牲了一定的准确性。

    Jun, 2024

  • 通过对抗网络逼近机器学习公平性

    介绍一种新的针对敏感特征的机器学习公平性框架，通过去除敏感信息和最小化敏感特征的边际贡献来改善模型的公平性。实验结果表明，该模型在公平性指标和预测性能方面均优于相关最先进方法。

    Sep, 2019

  • 伦理对手：通过对抗机器学习缓解不公平现象

    提出了一个框架以减少训练数据集中不公平的代表性，其中使用两个相互操作的对手功能来提高公平性。首先，通过训练模型防止猜测受保护属性的值，同时限制效用损失，实现模型公平性优化。然后，利用对抗机器学习的规避攻击生成新的被错误分类的例子，并用于第一步模型的重新训练和改进增强模型的公平性。将这两个步骤迭代应用，直到显著提高公平性。

    May, 2020

  • 通过对抗学习估计和提高公平性

    为了保证医疗人工智能系统的公平性和对负责任，我们提出了一种对抗性多任务训练策略来同时减轻和检测基于深度学习的医学图像分析系统中的偏见。实验表明我们提出的方法具有较高的有效性。

    Mar, 2021