Oct, 2019

对使用人工监督的 COMPAS 数据学习公平度量的实证研究

PDF
TL;DR本研究通过收集新的人员判断数据，尝试从人员标注数据中学习类似度度量，以实现个人公平性。研究结果表明，所学度量优于欧几里得度量和精度度量，并为学习诸如个人公平度量之类的度量提供了一种工具。
individual fairnesssimilarity metricmetric learninghuman annotationcriminal recidivism prediction
发现论文，激发创造
  • 度量学习用于个体公平性

    提出了一种基于人类判断的 “个体公正” 近似度量的解决方案，该模型假定我们可以获得人类的公正裁决者，其可以回答关于特定任务的个体相似性的有限一组查询，该模型包括相关的度量逼近定义，逼近构造和学习程序。

    Jun, 2019

  • 基于成对公正表示的个体公正实现

    本文提出不需要人工规范距离度量的个体公平性的实现方法。我们提出新的方法获取和利用关于同样值得的个人的附加信息来打破社会群体之间的剥夺，将这些知识建模为公平图，并学习数据的统一成对公平表示，捕捉个体间数据驱动的相似性和公平性图中成对附加信息。我们从各种来源获取公平判断，包括关于再犯率预测（COMPAS）和暴力社区预测（Crime＆Communities）的两个真实数据集的人类判断。实验显示，对于实现个体公平，PFR 模型是实际可行的。

    Jul, 2019

  • 限制计算意识的公平性

    在 Dwork 等人的框架中，我们研究了公平分类问题，提出了一种新的公平概念 (metric multifairness)。该概念是基于相似度度量和样本的比较集合，并且可以用有限次查询任意度量的方式来实现。

    Mar, 2018

  • 从数据学习个体公平度量的两种简单方法

    本研究提出了两种简单的方法，从多种数据类型中学习公平指标，经实验证明使用学习到的指标进行公平训练可以在三种机器学习任务中有效减少性别和种族偏见，同时也提供了关于统计性能的理论保证。

    Jun, 2020

  • 几乎度量一致的公平学习

    研究介绍了关于个体公平性度量的概念，发现这种方法并不适用于机器学习的训练集以及潜在的人群，所以提出了一种相对放宽的类似度公平近似指标方法，同时实现了最佳的准确率作为 PACF 学习的基础。

    Mar, 2018

  • 未知公平性度量的在线学习

    该研究旨在解决在线学习在线性情境赌博机中存在强烈的个体公平约束的问题，其中个体公平性受未知相似性度量的支配，主要考虑通过算法减小公平性侵犯并达到最佳回报。

    Feb, 2018

  • 针对监督学习模型的个体不公平性识别、测量和缓解以及其在信用风险模型中的应用

    本文旨在通过实现一个两步训练过程来识别和减轻个人不公平，并利用最近在此领域发表的一些技术，特别是在信贷审批用例中适用的技术。我们还调查了实现个人公平性的技术在实现团体公平性方面的有效程度以及提出了第二度量标准来确定模型如何公平地处理类似的个体，最后呈现了一些与个人不公平减轻技术相关的实验结果。

    Nov, 2022

  • 超人公平性

    将公平性问题重新解释为一种基于超级公平性目标的模仿学习任务，以同时提高决策的准确性和公平性。

    Jan, 2023

  • FairCompass：机器学习中的公平操作

    提出了一种名为 'FairCompass' 的人在循环中的公平审计方法，通过混合可视化分析系统将子组发现技术和基于决策树的模式集成到终端用户中，以促进可视分析的知识生成模型的使用，在实际情境中评估了 FairCompass 的公平审计效果，结果显示该系统在实际应用上具有潜力，望能填补公平性研究中的现行空白并促进在机器学习系统中的公平性操作实施。

    Dec, 2023

  • 通过敌对学习实现公平：一个针对累犯预测的应用

    通过对抗式训练神经网络来消除 COMPAS 分数对黑人囚犯的不公平偏见，我们获得了更高的预测准确性，并更接近实现公平的两个指标：平等和机会均等性。这项研究提供了一个高风险的现实应用中科学复制和简化的例子，即再犯预测。

    Jun, 2018