公平高效机器学习的解耦分类器

Jul, 2017

Decoupled classifiers for fair and efficient machine learning

Cynthia Dwork, Nicole Immorlica, Adam Tauman Kalai, Max Leiserson

TL;DR本文研究当使用敏感信息来训练机器学习系统时如何保证公平性，提出了一种有效的技术 —— 基于转移学习的去耦合方法，并且可适用于多个公平标准下的任务，但是需要在应用设计者规定的联合损失函数下权衡公平性和准确性。

Abstract

When it is ethical and legal to use a sensitive attribute (such as gender or race) in machine learning systems, the question remains how to do so. We show that the naive application of machine learning algorithms

machine learning sensitive attributes fairness criteria decoupling technique transfer learning

发现论文，激发创造

公平感知机器学习的两阶段算法

论文提出了一种基于两阶段最小二乘法的公平机器学习算法，能够有效处理数据中敏感属性与非敏感属性相关的不公平问题，其独特之处在于该算法针对回归模型的不公平问题也能做出有效处理，并且能够解决数字敏感属性的问题，经实验验证表现卓越。

Oct, 2017

公平分类的超参数调整，不需要敏感属性访问

该论文提出 Antigone 框架，通过使用基于偏见分类器所产生的伪敏感属性标签来训练公平分类器，无需使用敏感属性标签，通过同时最大化准确性和公平性来实现平等机器学习。

Feb, 2023

关于以大部分为私有敏感属性的公平分类

本文提出了在机器学习半私密设置中进行公平分类的新框架 FairSP，该框架可以借助少量的干净敏感属性来纠正嘈杂的敏感属性，然后通过对抗的方式，共同模拟已经校正的和干净的数据，以实现去偏差和预测，并证明该模型可以保证当大多数敏感属性是私密时的公平性。

Jul, 2022

在不考虑敏感属性的情况下学习公平模型：一种生成方法

本文提出了一种基于概率生成模型的方法，通过在采用了多种形式的相关特征的训练数据中有效地估计敏感属性信息，从而提高公平模型的学习率。实际测试表明了该方法的准确性和公平性。

Mar, 2022

数据受限二元分类中平衡公平性与准确性

在处理敏感信息的应用程序中，数据限制可能会对机器学习（ML）分类器的可用数据施加限制，本文提出了一个框架，模拟了在四种实际情景下准确性和公平性之间的折衷，以确定在各种数据限制情况下，贝叶斯分类器的准确性受到的影响是如何的。

Mar, 2024

公正的核学习

研究如何通过包含公平性在目标函数中来解决机器学习中涉及敏感特征的不公平性问题。提出了基于新的公平分类框架的新型公平回归和降维方法，并通过使用 Hilbert Schmidt 独立性准则作为公平项，实现了线性和非线性问题的评估。

Oct, 2017

公正感知学习与无偏表示

本研究提出一种新算法，可以识别和处理潜在的歧视因素，确保机器学习模型的公平性，从而提高模型性能，实现非歧视分类和回归任务。

Feb, 2020

盲目的正义：加密敏感属性下的公正

介绍了如何通过安全多方计算的方法，加密敏感属性，学习一个基于结果的公平模型，而无需揭示个人敏感信息，从而避免种族或性别等敏感属性对机器学习模型造成的不公平问题。

Jun, 2018

使用敏感子空间鲁棒性训练个体公平的机器学习模型

我们考虑培训机器学习模型，使其在输入的某些敏感扰动下表现不变的公平性，这种公平性的形式化表述为个体公平性的一种变体，并使用分布鲁棒优化方法在训练期间强制执行。我们还展示了该方法在两个容易受到性别和种族偏见影响的机器学习任务上的有效性。

Jun, 2019

使用隐私人口统计数据进行公正学习

本文研究通过个人隐私保护的方式，实现对受保护属性的学习，在使用中不产生歧视，同时在受保护属性只在数据子集中存在的情况下，实现公平预测模型的学习。

Feb, 2020