使用隐私人口统计数据进行公正学习

ICMLFeb, 2020

使用隐私人口统计数据进行公正学习

Fair Learning with Private Demographic Data

Hussein Mozannar, Mesrob I. Ohannessian, Nathan Srebro

TL;DR本文研究通过个人隐私保护的方式，实现对受保护属性的学习，在使用中不产生歧视，同时在受保护属性只在数据子集中存在的情况下，实现公平预测模型的学习。

Abstract

sensitive attributes such as race are rarely available to learners in real world settings as their collection is often restricted by laws and regulations. We give a scheme that allows individuals to release their sensitive information privately while still allowing any downstream entit

sensitive attributes non-discriminatory predictors privatized protected attributes fair predictors learning

发现论文，激发创造

关于以大部分为私有敏感属性的公平分类

本文提出了在机器学习半私密设置中进行公平分类的新框架 FairSP，该框架可以借助少量的干净敏感属性来纠正嘈杂的敏感属性，然后通过对抗的方式，共同模拟已经校正的和干净的数据，以实现去偏差和预测，并证明该模型可以保证当大多数敏感属性是私密时的公平性。

Jul, 2022

差分隐私公平学习

研究如何在收集敏感属性信息受到禁止或限制的情况下，通过差分隐私算法实现公平学习，并提出两种算法来设计实现，同时保证了差分隐私和均等几率性，讨论这三个性质间的权衡关系。

Dec, 2018

SF-PATE: 可扩展、公平且私密的教师集成聚合

本文旨在研究一种隐私保护和公平的模型，该模型允许采用现有的公平模型，保护个人信息的隐私同时学习非歧视性预测器。实验证明该模型具有可扩展性、准确性和公正性。此外，该文章是第一个允许对非常大的神经网络训练私人和公平模型的提议。

Apr, 2022

在不考虑敏感属性的情况下学习公平模型：一种生成方法

本文提出了一种基于概率生成模型的方法，通过在采用了多种形式的相关特征的训练数据中有效地估计敏感属性信息，从而提高公平模型的学习率。实际测试表明了该方法的准确性和公平性。

Mar, 2022

拉格朗日对偶方法实现差分隐私和公平深度学习

这篇论文研究了如何使用差分隐私和拉格朗日对偶的方法来设计神经网络，以确保在预测中不出现性别、种族或年龄等偏见，同时保护个人敏感信息，对于保证准确性、隐私与公平之间的平衡关系问题进行了分析，并在多个预测任务上进行了实验验证。

Sep, 2020

有限人口分类标记数据下的公平机器学习

本研究提出了一种新型的公平训练算法，该算法在尽可能保护个人隐私的情况下，避免了在机器学习模型中存在不良社会偏见的问题。实验结果显示，该算法可以有效降低社会偏见问题。

Jun, 2021

实践中的意识：反歧视中敏感属性数据访问的紧张关系

本文阐述了机器学习和公平方面的研究，尤其是在敏感属性的意识方面的重要性，每个领域描述了如何和何时为反歧视目的收集或推断敏感属性数据，这个故事对公平研究及其未来应用具有重要意义，并强调各方利益相关者积极寻找一种综合考虑政策目标和技术需求的前进道路。

Dec, 2019

人口有限制度下的公平性

本研究通过引入不确定性感知，对可能存在不确定性的人口敏感属性样本实施公平性要求，并提出一种建立更好的公平性 - 准确性权衡的属性分类器框架，实验证明该框架相对于传统方法在两个数据集上都取得显著的公平性 - 准确性权衡表现优势，并且超过了对真实敏感属性进行约束训练的模型。

Jul, 2023

盲目的正义：加密敏感属性下的公正

介绍了如何通过安全多方计算的方法，加密敏感属性，学习一个基于结果的公平模型，而无需揭示个人敏感信息，从而避免种族或性别等敏感属性对机器学习模型造成的不公平问题。

Jun, 2018

有监督学习中的机会平等

本研究提出了一种针对监督学习中指定敏感属性的歧视判据，结合 FICO 信用评分案例研究来说明该判据是如何通过调整学习预测器的方式达到消除歧视的目的。同时，本文研究了基于被遗忘的测试方式定义和识别偏见的固有限制。

Oct, 2016