Jan, 2022
公平指南:社会科学和形式科学角度的观点
The Fairness Field Guide: Perspectives from Social and Formal Sciences
Alycia N. Carey, Xintao Wu
TL;DR介绍了机器学习中公平性的哲学、社会学和法律思想,并探讨了其中存在的问题与批评。
Abstract
Over the past several years, a slew of different methods to measure the
fairness of a machine learning model have been proposed. However, despite the
growing number of publications and implementations, there is still a critical
lack of literature that explains the interplay of fair machine le
发现论文,激发创造
机器学习中预测公平性的形式化
探讨机器学习算法公平性如何在预测任务中被正式化,并提供相应的社会科学文献中分配公正的概念,通过理论和实证批判这些概念,并解释这些批判如何限制相应公平正式化的适用性和讨论潜在公平正式化的路径。
Oct, 2017
机器学习中的公平性:一项调查
这篇文章介绍了机器学习中的社会偏见和公平性问题,总结了预处理、处理和后处理等多种方法,包含二分类、回归、推荐系统、无监督学习和自然语言处理等多个方面,同时提供了多个开源库。最后,列举了公平性研究的四个难题。
Oct, 2020
机器学习中的公平性
讨论如何使用因果贝叶斯网络和最优输运理论来处理机器学习公平性问题,尤其是在复杂的不公平场景下,提出了一种统一的框架来处理不同的情况和公平标准,并介绍了一种学习公平表示的方法和一种考虑敏感属性使用限制的技术。
Dec, 2020
反思公平:对霸权机器学习公平方法批评的跨学科调查
本文评估并比较了来自哲学、女性主义研究、批判性种族和民族研究、法律研究、人类学和科学技术研究等非计算学科的现有批评,旨在提供 ML 公正技术干预的跨学科理解,以此产生社会上最边缘化群体的公正结果,最后讨论了基于这些批评的未来 ML 公正研究方向。
May, 2022
公平是什么?对公平机器学习的哲学思考及其含义
本文旨在通过形式化一致的公平概念,将哲学讨论转化为 ADM 系统中 ML 模型培训和评估的一种正式框架,并提出了一般算法,以实现 fairML 的更高语言清晰度和实际应用。
May, 2022
数学概念与人类对公平的感知:机器学习中公平的描述性方法
本研究在于确定机器学习模型应用在社会领域中哪种公平性定义最为合适,通过自适应实验发现,人们普遍倾向于使用最简单的数学公式 —— 人口平等来衡量公平性。
Feb, 2019