Feb, 2024

是否合并：对共享模型中群体公平训练的正则化效果分析

PDF
TL;DR公平机器学习中，性能差异的一个原因是对训练样本较少的群体过拟合。本文推导了福利为中心的公平机器学习的群体特定的泛化误差界，从而得益于多数群体较大的样本量。通过考虑一个受限假设类中的群体特定的 Rademacher 平均，该假设类包含了在公平学习目标（如 power-mean）方面表现良好的模型族。我们的模拟实验证明，这些界限相对于朴素方法有所改进，并且对于较小的群体大小改进尤为显著。
发现论文，激发创造
  • 通过睡眠专家推进子群体公平

    研究在具有重叠人口和顺序预测的情况下改善对子群体的公平性的方法，并指出当多个重叠群体的目标不是平等预测而是良好预测时，满足此保证的任务并不简单，即使针对每个子群体分别提供性能良好的预测器，对于未加权的假阴性和假阳性率的简单目标而言，满足这个目标在统计上也可能是不可能的。

    Sep, 2019

  • 缓解联邦学习中的群体偏差：超越本地公平性

    本研究旨在探讨有关机器学习模型中特定人群或群体受到偏待的问题以及解决方法，其中我们特别研究了本地模型与全局模型之间公平性的关系，并提出了一种基于惩罚性经验损失最小化的全局公平训练算法，实验证明我们的方法在保持高准确率的同时，相比本地公平训练方法能够更有效地提升公平性。

    May, 2023

  • 关于对抗偏差和公正机器学习的鲁棒性

    为保证公正性，公平机器学习算法致力于消除不同群体间的行为差异，但是研究表明，在训练数据存在偏差的情况下，将同等的重视不同规模和分布的不同群体，可能会与鲁棒性相冲突，攻击者可以通过对样本和标签的控制来攻击群体公平性机器学习，从而在测试数据上显著降低测试准确率，本文评估了多种算法和基准数据集的攻击，分析了公平机器学习的鲁棒性。

    Jun, 2020

  • 算法公平性隐私风险

    研究算法公平性和隐私在机器学习中的应用，分析了公平性对训练数据信息泄露的影响，发现公平性会牺牲一部分隐私权，特别是对弱势群体。同时，训练数据的偏差越大，为了弱势群体的公平性所付出的隐私成本也越高。

    Nov, 2020

  • 保护受保护群体：规避有害公平性

    介绍了一种名为 Welfare-Equalizing 的公平算法，旨在保护受保护群体。该方法提供了一种公平性数据分类的统一框架，以及一种计算最优分类器的算法。

    May, 2019

  • 基于归一化流的公平组共享表示

    本文描述了一种基于正则化流模型的公平表示学习算法，它可以将不同群体的个体映射为单个群体，并在敏感属性方面实现更强的不变性。

    Jan, 2022

  • 无需敏感群组访问的联邦公平性

    通过单一超参数在一组大小约束下，在不依赖事先定义敏感群组或额外标签的情况下，确保联邦学习的团体公平性，同时实现公平与效用之间的权衡。

    Feb, 2024

  • 降低异构设备中联邦学习的群体偏差

    我们提出了一个群体公平的联邦学习框架，旨在在保护隐私和没有资源利用开销的情况下，减少群体偏见。我们通过利用平均条件概率来计算由异构训练数据得出的跨领域群体重要性权重，使用修改的乘法权重更新方法来优化表现最差的群体的性能。此外，我们提出了正则化技术来最小化最差和最好表现群体之间的差异，同时通过阈值机制确保在减少偏见和群体表现下降之间取得平衡。我们对人类情绪识别和图像分类基准进行了评估，以评估我们的框架在实际异构环境中的公平决策能力。

    Sep, 2023

  • 通过分组学习：一种多层次优化框架，提高分类公平性而不损失准确性

    本文提出了一种新的机器学习框架，旨在为实现公正和准确性而学习分组，从而减少 ML 模型在特定人群中的偏见和歧视，并在各种数据集上实现了最新技术的改进。

    Apr, 2023

  • 依赖于组的标签噪声下的公平分类

    研究了在训练标签被随机噪声污染和误差率依赖于保护子组的成员函数的情况下如何训练公平分类器，发现简单地强制使用人口统计差异措施达到平等，会降低分类器的准确性和公平性。通过使用指定的替代损失函数和替代约束条件对经验风险最小化进行优化可以减少标签噪声引起的问题。

    Oct, 2020