AAAIJul, 2023

公平分类遇到含噪保护属性

PDF
TL;DR在实现算法公平性方面存在多个实际挑战，包括数据集中受保护属性的可用性或可靠性。本研究首次对公平分类算法进行了头对头的研究，以比较基于属性、容忍噪声和盲目属性的算法在预测性和公平性两个方面的表现。我们通过对四个真实数据集和合成扰动的案例研究来评估这些算法，发现盲目属性和容忍噪声的公平分类器在受保护属性存在噪声的情况下，可能实现与基于属性的算法类似的性能水平。然而，在实践中实现这些算法需要谨慎处理。本研究为在受保护属性存在噪声或部分可用的场景中使用公平分类算法提供了实践的启示。
algorithmic fairnessprotected attributesfair classification algorithmspredictivity and fairnessnoisy protected attributes
发现论文，激发创造
  • 利用有噪保护属性减少集合选择中的偏差

    在数据集保护属性存在噪声的情况下，通过采用噪声模型和基于线性规划的近似算法，本文提出了一种可以提高公平性指标的分类子集选择方法，并在真实数据集和合成数据集上进行了测试。

    Nov, 2020

  • 排名公平性：无需保护属性的随机化鲁棒性

    我们提出了一种用于后处理排名的随机方法，不需要受保护属性的可用性，通过广泛的数值研究，我们展示了我们的方法在 P-Fairness 和与基线排名的标准化折现累积增益 (NDCG) 方面的稳健性和有效性，并改进了之前提出的方法。

    Mar, 2024

  • 关于以大部分为私有敏感属性的公平分类

    本文提出了在机器学习半私密设置中进行公平分类的新框架 FairSP，该框架可以借助少量的干净敏感属性来纠正嘈杂的敏感属性，然后通过对抗的方式，共同模拟已经校正的和干净的数据，以实现去偏差和预测，并证明该模型可以保证当大多数敏感属性是私密时的公平性。

    Jul, 2022

  • 抗噪公平分类

    本文研究了含有噪声敏感特征的公平机器学习算法，表明当使用均值差异分数作为公平性量度标准时，只需通过调整所需的公平容错率即可仍然学习出公平分类器，该容错率可以通过现有噪声率估计器进行估计，并在两个敏感特征审查案例研究中得到实证有效性。

    Jan, 2019

  • 公平分类的超参数调整，不需要敏感属性访问

    该论文提出 Antigone 框架，通过使用基于偏见分类器所产生的伪敏感属性标签来训练公平分类器，无需使用敏感属性标签，通过同时最大化准确性和公平性来实现平等机器学习。

    Feb, 2023

  • 带有对抗扰动的公平分类

    本文研究在具有全知对手的情况下的公平分类问题，在此情况下对于一个给定的参数 η，对手可以随意选择任意 η 分数的训练样本并随意扰动它们的保护属性。我们提出了一种优化框架来学习这种对抗情况下的公平分类器，并具有可证明的准确性和公平性保证。

    Jun, 2021

  • 盲目的正义：加密敏感属性下的公正

    介绍了如何通过安全多方计算的方法，加密敏感属性，学习一个基于结果的公平模型，而无需揭示个人敏感信息，从而避免种族或性别等敏感属性对机器学习模型造成的不公平问题。

    Jun, 2018

  • 在不考虑敏感属性的情况下学习公平模型：一种生成方法

    本文提出了一种基于概率生成模型的方法，通过在采用了多种形式的相关特征的训练数据中有效地估计敏感属性信息，从而提高公平模型的学习率。实际测试表明了该方法的准确性和公平性。

    Mar, 2022

  • 多保护属性下公平性改善的实证研究

    该研究论文对多个受保护属性的公平性改进进行了广泛研究，涵盖了 11 种最先进的公平性改进方法。结果显示，针对单个受保护属性改进公平性会大幅降低对未考虑的受保护属性的公平性。此外，在处理多个受保护属性时，精确率和召回率的影响是单个属性的 5 倍和 8 倍，在以准确性作为机器学习性能指标的将来公平性研究中，这有重要的影响。

    Jul, 2023

  • 查询偏差是否泄漏保护属性？通过平滑灵敏度实现隐私保护

    研究表明，要确保模型开发人员无法通过查询公平度量来了解个体的受保护属性，提出了一个新技术 Attribute-Conceal 来实现差分隐私，避免了普通机制的局限性。

    Nov, 2022