GroupMixNorm 层用于学习公平模型

KDDDec, 2023

GroupMixNorm Layer for Learning Fair Models

Anubha Pandey, Aditi Rai, Maneet Singh, Deepak Bhatt, Tanmoy Bhowmik

TL;DR提出了一种基于 GroupMixNorm 层的处理方法，通过混合样本的组级特征统计数据来减轻深度学习模型中的偏见，该方法在减少偏见的同时对整体准确性影响较小。实验结果表明该方法在标准数据集上取得了最先进的性能，同时还表明 GroupMixNorm 层对于新的受保护属性在推理过程中的稳健性及其在预训练网络中消除偏见的效用。

Abstract

Recent research has identified discriminatory behavior of automated prediction algorithms towards groups identified on specific protected attributes (e.g., gender, ethnicity, age group, etc.). When deployed in real-world scenarios, such techniques may demonstrate biased predictions res

discriminatory behavior automated prediction algorithms bias mitigation groupmixnorm layer fairness metrics

发现论文，激发创造

具有噪声保护组的公平鲁棒优化

研究机器学习的公平性标准，提出一种使用鲁棒优化的新方法来处理受保护群体的嘈杂标签问题，并经实验验证，该方法能更好地保证在真实受保护群体上的公平性标准。

Feb, 2020

群体无差别最优输运到群体平等及其约束变体

我们设计了一种单一的群体盲扫描映射，它使源数据中两个群体的特征分布对齐，从而实现了（人口）群体平等，而不需要在映射的计算和使用过程中提供个体样本的受保护属性的值，也不依赖受保护属性的可访问性或估计。

Oct, 2023

利用概率受保护特征估计和实现常规公平度量

在有限的受保护属性标签访问情况下，本文开发了测量和减少公平违规的方法，提出了估计现有模型的常见公平度量和解决约束非凸优化问题以限制公平违规的模型训练技术，并且相比其他受限受保护属性的公平优化方法，在减小公平度的同时减少了公平性和准确性的权衡。

Oct, 2023

公平映射

为了解决模型中存在的错误偏见，本研究提出了一种新的预处理方法 - 公平映射，通过转换敏感组的数据分布到一个特定的目标分布上，并且实现保护敏感属性不被推论的目标来改善数据的公平性。实验结果表明，该方法能够同时隐蔽敏感属性，不失数据的特性，同时提高了后续数据分析任务的公平性。

Sep, 2022

回归机器学习问题中的公平性归一化：一种简单的归一化技术

通过归一化的方式，该研究提出了一种名为 FaiReg 的简单有效的方法，用于最小化回归问题中的不公平影响，特别是由于标签偏差引起的影响，与数据平衡和对抗训练相比表现更优，同时不会像对抗训练一样破坏原来问题的性能。

Feb, 2022

保护受保护群体：规避有害公平性

介绍了一种名为 Welfare-Equalizing 的公平算法，旨在保护受保护群体。该方法提供了一种公平性数据分类的统一框架，以及一种计算最优分类器的算法。

May, 2019

具有统计保证的参数公平性

通过将与预测相关的分布属性纳入考虑，我们扩展了人口平等的概念，允许专家知识在公平解决方案中得到应用，并通过一个工资的实际案例说明了此新度量的使用，同时开发了解决实际挑战的参数方法，提供了一个适用于现实生活中应用场景的强大解决方案。

Oct, 2023

公平 GNN 的人口迁移

提出了一种名为 FairMigration 的新型框架，它可以动态迁移人口群体，解决在训练 Fair GNNs 时存在的个人敏感信息偏见问题，该框架分为两个学习阶段，第一个阶段进行个人化自监督学习并动态调整人口群体，第二个阶段在新的人口群体约束和对抗训练下进行的监督学习，实验表明该框架能很好地平衡模型性能和公平性。

Jun, 2023

通过潜空间去偏置实现公平的属性分类

本文介绍了一种使用 GAN 生成图像并在潜在空间中扰动以生成可以平衡每个受保护属性的训练数据的方法，以缓解由相关性所引起的偏差，通过在原始数据集上增加扰动生成的数据，实证证明训练结果准确且具有许多定量和定性上的优势。在 CelebA 数据集上进行了全面评估和分析，与现有文献进行了比较。

Dec, 2020

公平抽样：高效训练公平准确的图卷积神经网络

本文主要研究了图卷积神经网络（GCNs）中的公平性问题，以及如何训练公平且准确的 GCNs。研究着重分析了图结构偏差、节点属性偏差和模型参数对 GCNs 中的人口平等性的影响，提出了一个名为 FairSample 的框架来共同解决这些偏差，其中采用了注入边缘和使用增强学习的可学习邻居采样策略来改善图结构和保证模型的公平性和质量，同时还采用了正则化目标来优化公平性。

Jan, 2024