人口有限制度下的公平性

Jul, 2023

Fairness Under Demographic Scarce Regime

Patrik Joslin Kenfack, Samira Ebrahimi Kahou, Ulrich Aïvodji

TL;DR本研究通过引入不确定性感知，对可能存在不确定性的人口敏感属性样本实施公平性要求，并提出一种建立更好的公平性 - 准确性权衡的属性分类器框架，实验证明该框架相对于传统方法在两个数据集上都取得显著的公平性 - 准确性权衡表现优势，并且超过了对真实敏感属性进行约束训练的模型。

Abstract

Most existing works on fairness assume the model has full access to demographic information. However, there exist scenarios where demographic information is partially available because a record was not maintained throughout data collection or due to privacy reasons. This setting is kno

fairness demographic scarce regime attribute classifiers fairness-accuracy trade-offs uncertainty awareness

发现论文，激发创造

公平分类的超参数调整，不需要敏感属性访问

该论文提出 Antigone 框架，通过使用基于偏见分类器所产生的伪敏感属性标签来训练公平分类器，无需使用敏感属性标签，通过同时最大化准确性和公平性来实现平等机器学习。

Feb, 2023

评估不确定和不完整信息下机器学习模型的公平性

研究公平分类器培训和评估的挑战，探讨对数据点的敏感属性信息和标签信息的公平性指标依赖性，以及在数据缺乏的情况下如何训练和使用属性分类器进行偏差估计。

Feb, 2021

有限人口分类标记数据下的公平机器学习

本研究提出了一种新型的公平训练算法，该算法在尽可能保护个人隐私的情况下，避免了在机器学习模型中存在不良社会偏见的问题。实验结果显示，该算法可以有效降低社会偏见问题。

Jun, 2021

使用隐私人口统计数据进行公正学习

本文研究通过个人隐私保护的方式，实现对受保护属性的学习，在使用中不产生歧视，同时在受保护属性只在数据子集中存在的情况下，实现公平预测模型的学习。

Feb, 2020

在不考虑敏感属性的情况下学习公平模型：一种生成方法

本文提出了一种基于概率生成模型的方法，通过在采用了多种形式的相关特征的训练数据中有效地估计敏感属性信息，从而提高公平模型的学习率。实际测试表明了该方法的准确性和公平性。

Mar, 2022

无需人口统计实现皮肤疾病诊断的公平性

在医学图像诊断中，公平性变得越来越重要。本文提出了一种方法，在测试阶段实现对敏感属性的公平预测，而无需在训练过程中使用此类信息，并通过增强模型特征和规范特征的纠缠关系来提高公平性和准确性。实验结果表明，在两个皮肤病数据集中，该方法能够提高分类的公平性。

Jan, 2024

组条件缺失人口的公平风险

通过概率插值敏感特征并联合学习组条件缺失概率的变分自编码器，我们提出了公平感知分类模型，以解决隐私、法律问题和个体恐惧所导致的敏感特征全知要求的实际不可行性问题，我们的模型在图像和表格数据集上表现出较好的准确性和公平性平衡。

Feb, 2024

关于以大部分为私有敏感属性的公平分类

本文提出了在机器学习半私密设置中进行公平分类的新框架 FairSP，该框架可以借助少量的干净敏感属性来纠正嘈杂的敏感属性，然后通过对抗的方式，共同模拟已经校正的和干净的数据，以实现去偏差和预测，并证明该模型可以保证当大多数敏感属性是私密时的公平性。

Jul, 2022

基于人口统计学的算法公平性：揭示在追求公平性过程中人口统计数据收集的风险

本文探讨了收集人口统计数据用于实现算法公平性所面临的风险和挑战，并呼吁在数据管理和系统性压抑等领域中解决这些问题。

Apr, 2022

无需公平训练的公平分类器：一种受影响引导的数据采样方法

学习公平分类器的方法是避免使用敏感属性的训练数据，在适当分布转移的数据集上进行传统训练可以同时减少公平差距上界和模型泛化误差，提高公平性和准确性。我们提出了一种可行的解决方案，通过采样有影响力的数据来在训练过程中逐步转移原始训练数据，其中新数据的敏感属性不会被访问或用于训练。对真实数据的大量实验验证了我们提出算法的有效性。

Feb, 2024