学习中的个体公平性保证与审查

Feb, 2023

Individual Fairness Guarantee in Learning with Censorship

Wenbin Zhang, Juyong Kim, Zichong Wang, Pradeep Ravikumar, Jeremy Weiss

TL;DR研究机器学习算法如何实现公平性是机器学习中一个重要的领域。为了在构建机器学习系统时考虑公平性，这篇文章提出了一种新的公平性模型，即在具有审查制度的情况下进行个体公平性学习，探索了缺乏类标签前提条件的情况下如何对待相似的个体并减少歧视。本文在三个真实世界的数据集上验证了该方法的卓越表现，既能最小化歧视，又能保持预测性能。

Abstract

algorithmic fairness, studying how to make machine learning (ML) algorithms fair, is an established area of ML. As ML technologies expand their application domains, including ones with high societal impact, it be

algorithmic fairness machine learning individual fairness learning with censorship real-world datasets

发现论文，激发创造

不确定情况下的公正决策

该研究关注人工智能决策系统的公平性问题，提出了一种在存在不确定性的情况下，对长期数据进行带公平性约束的监督学习的新方法，能有效减少基于数据的不公平决策。

Jan, 2023

机器学习中的公平性

讨论如何使用因果贝叶斯网络和最优输运理论来处理机器学习公平性问题，尤其是在复杂的不公平场景下，提出了一种统一的框架来处理不同的情况和公平标准，并介绍了一种学习公平表示的方法和一种考虑敏感属性使用限制的技术。

Dec, 2020

深度学习中的公平性：计算视角

该文章从计算视角对深度学习算法的公平性问题进行了综述和分类总结，重点讨论了通过解释性来诊断算法歧视和推进公平深度学习体系的公平化方法。

Aug, 2019

带审查的纵向公平

本文提出了一种适用于在纵向受限制环境中的公平性测量和去偏置算法，以解决现有公平性研究在时间到事件不确定时因被审查的类标签和不适用而造成的难题，并在四个被审查的数据集上进行了实验。

Mar, 2022

iFair: 学习个体公平数据表示方法用于算法决策

本文提出了一种基于概率映射用户记录的方法，用于实现算法决策应用的个体公平性和真实应用环境下的分类器和排名等工具的效用性，并通过应用于现实世界数据集的分类和学习排序任务的实验表明了其比之前最佳方法有显著改善。

Jun, 2018

机器学习中的公平性：一项调查

这篇文章介绍了机器学习中的社会偏见和公平性问题，总结了预处理、处理和后处理等多种方法，包含二分类、回归、推荐系统、无监督学习和自然语言处理等多个方面，同时提供了多个开源库。最后，列举了公平性研究的四个难题。

Oct, 2020

算法公平性隐私风险

研究算法公平性和隐私在机器学习中的应用，分析了公平性对训练数据信息泄露的影响，发现公平性会牺牲一部分隐私权，特别是对弱势群体。同时，训练数据的偏差越大，为了弱势群体的公平性所付出的隐私成本也越高。

Nov, 2020

教育中的算法公平性

介绍算法公平性在教育中的应用，关注预测模型、偏见和歧视，给出了在教育技术中如何促进算法公正性的方针建议。

Jul, 2020

临床风险预测公平机器学习的实证表征

该研究探讨了使用机器学习指导临床决策可能加剧现有的健康差距问题的潜力，并分析了算法公平的适用性、技术限制以及与机器学习在医疗保健中使用相关的社会技术背景。研究结果表明，在对各组之间的预测分布差异进行惩罚的情况下，几乎所有团体内的多项绩效指标都会降低，并且算法公平性方法在消除健康差距方面仍存在许多有待解决的问题。

Jul, 2020

针对监督学习模型的个体不公平性识别、测量和缓解以及其在信用风险模型中的应用

本文旨在通过实现一个两步训练过程来识别和减轻个人不公平，并利用最近在此领域发表的一些技术，特别是在信贷审批用例中适用的技术。我们还调查了实现个人公平性的技术在实现团体公平性方面的有效程度以及提出了第二度量标准来确定模型如何公平地处理类似的个体，最后呈现了一些与个人不公平减轻技术相关的实验结果。

Nov, 2022