Feb, 2024

无需公平训练的公平分类器：一种受影响引导的数据采样方法

PDF
TL;DR学习公平分类器的方法是避免使用敏感属性的训练数据，在适当分布转移的数据集上进行传统训练可以同时减少公平差距上界和模型泛化误差，提高公平性和准确性。我们提出了一种可行的解决方案，通过采样有影响力的数据来在训练过程中逐步转移原始训练数据，其中新数据的敏感属性不会被访问或用于训练。对真实数据的大量实验验证了我们提出算法的有效性。
fair classifiersensitive attributesfairness disparitymodel generalization errortraditional training
发现论文，激发创造
  • 在不考虑敏感属性的情况下学习公平模型：一种生成方法

    本文提出了一种基于概率生成模型的方法，通过在采用了多种形式的相关特征的训练数据中有效地估计敏感属性信息，从而提高公平模型的学习率。实际测试表明了该方法的准确性和公平性。

    Mar, 2022

  • 公平分类的超参数调整，不需要敏感属性访问

    该论文提出 Antigone 框架，通过使用基于偏见分类器所产生的伪敏感属性标签来训练公平分类器，无需使用敏感属性标签，通过同时最大化准确性和公平性来实现平等机器学习。

    Feb, 2023

  • 评估不确定和不完整信息下机器学习模型的公平性

    研究公平分类器培训和评估的挑战，探讨对数据点的敏感属性信息和标签信息的公平性指标依赖性，以及在数据缺乏的情况下如何训练和使用属性分类器进行偏差估计。

    Feb, 2021

  • 关于以大部分为私有敏感属性的公平分类

    本文提出了在机器学习半私密设置中进行公平分类的新框架 FairSP，该框架可以借助少量的干净敏感属性来纠正嘈杂的敏感属性，然后通过对抗的方式，共同模拟已经校正的和干净的数据，以实现去偏差和预测，并证明该模型可以保证当大多数敏感属性是私密时的公平性。

    Jul, 2022

  • 当对抗性学习公平表征时的数据决策与理论含义

    本文研究通过对抗训练神经网络来消除敏感属性信息从而实现分类器 “公平” 的方法。发现只需要少量数据即可训练出具有公平性的分类器，并且数据分布影响对手的公平概念。

    Jul, 2017

  • 抗噪公平分类

    本文研究了含有噪声敏感特征的公平机器学习算法，表明当使用均值差异分数作为公平性量度标准时，只需通过调整所需的公平容错率即可仍然学习出公平分类器，该容错率可以通过现有噪声率估计器进行估计，并在两个敏感特征审查案例研究中得到实证有效性。

    Jan, 2019

  • 公平感知机器学习的两阶段算法

    论文提出了一种基于两阶段最小二乘法的公平机器学习算法，能够有效处理数据中敏感属性与非敏感属性相关的不公平问题， 其独特之处在于该算法针对回归模型的不公平问题也能做出有效处理，并且能够解决数字敏感属性的问题，经实验验证表现卓越。

    Oct, 2017

  • 以简单随机抽样器进行敏感属性的公平监督学习

    利用神经网络以简单的随机采样器对敏感属性进行学习的公平惩罚措施，旨在实现非歧视性监督学习。与现有的许多方法相比，该惩罚能够处理多种格式的敏感属性，因此在实践中更具广泛适用性。实证证据表明，我们的框架在流行的基准数据集上的效用和公平性度量优于竞争方法。我们还在理论上表征了所提出的神经网络惩罚风险最小化问题的估计误差和效用损失。

    Nov, 2023

  • 公平高效机器学习的解耦分类器

    本文研究当使用敏感信息来训练机器学习系统时如何保证公平性，提出了一种有效的技术 —— 基于转移学习的去耦合方法，并且可适用于多个公平标准下的任务，但是需要在应用设计者规定的联合损失函数下权衡公平性和准确性。

    Jul, 2017

  • 数据受限二元分类中平衡公平性与准确性

    在处理敏感信息的应用程序中，数据限制可能会对机器学习（ML）分类器的可用数据施加限制，本文提出了一个框架，模拟了在四种实际情景下准确性和公平性之间的折衷，以确定在各种数据限制情况下，贝叶斯分类器的准确性受到的影响是如何的。

    Mar, 2024