关于以大部分为私有敏感属性的公平分类

Jul, 2022

关于以大部分为私有敏感属性的公平分类

On Fair Classification with Mostly Private Sensitive Attributes

Canyu Chen, Yueqing Liang, Xiongxiao Xu, Shangyu Xie, Yuan Hong...

TL;DR本文提出了在机器学习半私密设置中进行公平分类的新框架 FairSP，该框架可以借助少量的干净敏感属性来纠正嘈杂的敏感属性，然后通过对抗的方式，共同模拟已经校正的和干净的数据，以实现去偏差和预测，并证明该模型可以保证当大多数敏感属性是私密时的公平性。

Abstract

machine learning models have demonstrated promising performance in many areas. However, the concerns that they can be biased against specific groups hinder their adoption in high-stake applications. Thus it is essential to ensure →

fairness machine learning semi-private setting privacy bias

发现论文，激发创造

在不考虑敏感属性的情况下学习公平模型：一种生成方法

本文提出了一种基于概率生成模型的方法，通过在采用了多种形式的相关特征的训练数据中有效地估计敏感属性信息，从而提高公平模型的学习率。实际测试表明了该方法的准确性和公平性。

Mar, 2022

使用隐私人口统计数据进行公正学习

本文研究通过个人隐私保护的方式，实现对受保护属性的学习，在使用中不产生歧视，同时在受保护属性只在数据子集中存在的情况下，实现公平预测模型的学习。

Feb, 2020

盲目的正义：加密敏感属性下的公正

介绍了如何通过安全多方计算的方法，加密敏感属性，学习一个基于结果的公平模型，而无需揭示个人敏感信息，从而避免种族或性别等敏感属性对机器学习模型造成的不公平问题。

Jun, 2018

公平分类的超参数调整，不需要敏感属性访问

该论文提出 Antigone 框架，通过使用基于偏见分类器所产生的伪敏感属性标签来训练公平分类器，无需使用敏感属性标签，通过同时最大化准确性和公平性来实现平等机器学习。

Feb, 2023

跨域公平分类的联合对抗学习

本文探讨了在缺少敏感属性的情况下，利用类似领域中的辅助信息来提高目标领域中的公正分类的可行性，并提出了一种既能学习到目标领域中的公正分类器，又能估计敏感属性的新框架，实验结果表明其有效性。

Jun, 2022

利用公平性来增强敏感属性的重建

本篇论文提出了一种通用的重构校正方法，可以在满足用户定义的约束条件（如公平性信息）的同时最小化敌手的猜测的更改，并解决了黑盒访问目标模型的情况下反应了培训数据敏感属性的问题。

Sep, 2022

朝向无需假设的偏见缓解

通过建模特征交互来检测相关属性以减轻偏见影响的无假设框架，大大减轻了机器学习模型中针对特定人群的歧视和不公平预测行为。

Jul, 2023

SF-PATE: 可扩展、公平且私密的教师集成聚合

本文旨在研究一种隐私保护和公平的模型，该模型允许采用现有的公平模型，保护个人信息的隐私同时学习非歧视性预测器。实验证明该模型具有可扩展性、准确性和公正性。此外，该文章是第一个允许对非常大的神经网络训练私人和公平模型的提议。

Apr, 2022

差分隐私公平学习

研究如何在收集敏感属性信息受到禁止或限制的情况下，通过差分隐私算法实现公平学习，并提出两种算法来设计实现，同时保证了差分隐私和均等几率性，讨论这三个性质间的权衡关系。

Dec, 2018

数据受限二元分类中平衡公平性与准确性

在处理敏感信息的应用程序中，数据限制可能会对机器学习（ML）分类器的可用数据施加限制，本文提出了一个框架，模拟了在四种实际情景下准确性和公平性之间的折衷，以确定在各种数据限制情况下，贝叶斯分类器的准确性受到的影响是如何的。

Mar, 2024