CVPRNov, 2021

使用部分注释组标签学习公平分类器

PDF
TL;DR本文针对标注人口统计学组注解成本高昂的现实场景，提出了一种可行的算法组公平性解决方案 (Fair-PG)，采用置信度为基础的组标签分配 (CGL) 策略，通过与最新的算法公平性处理方法相结合，提高了目标准确性和公平度。
fairness-aware learningalgorithmic group fairnesspartially annotated group labelsconfidence-based group label assignmentfairness metrics
发现论文，激发创造
  • 依赖于组的标签噪声下的公平分类

    研究了在训练标签被随机噪声污染和误差率依赖于保护子组的成员函数的情况下如何训练公平分类器，发现简单地强制使用人口统计差异措施达到平等，会降低分类器的准确性和公平性。通过使用指定的替代损失函数和替代约束条件对经验风险最小化进行优化可以减少标签噪声引起的问题。

    Oct, 2020

  • 部分已知因果图的干预公平性：一种约束优化方法

    本文提出了一种基于干预的因果公平性框架，用于在部分已知因果图的情况下实现公平预测，该方法使用部分有向无环图（PDAG）来度量因果公平性，并制定一个受限制的优化问题来平衡公平性和准确性。模拟和真实数据集的结果证明了该方法的有效性。

    Jan, 2024

  • 具有重叠分组的公平性

    通过概率人群分析，我们重新审视标准的公平分类问题，并揭示出贝叶斯最优分类器。我们的方法统一了各种现有的组公平分类方法，并扩展到各种不可分解的多类性能度量和公平性度量。在各种真实数据集上，我们提出的方法在公平性与性能的权衡方面优于基线。

    Jun, 2020

  • 具有噪声保护组的公平鲁棒优化

    研究机器学习的公平性标准，提出一种使用鲁棒优化的新方法来处理受保护群体的嘈杂标签问题，并经实验验证，该方法能更好地保证在真实受保护群体上的公平性标准。

    Feb, 2020

  • 多类别分类中的公平性保证

    本文提出了一种用于多类分类的算法公平性方法，同时给出了最佳公平分类器的相关表达式，该方法基于数据驱动的程序并且有理论保证。该方法在合成和真实数据集上都很有效，在决策制定中具有预设不公平性水平的公平性保证（无需考虑分布），并竞争（即使更好）地完成二元和多类任务。

    Sep, 2021

  • 无需敏感群组访问的联邦公平性

    通过单一超参数在一组大小约束下，在不依赖事先定义敏感群组或额外标签的情况下，确保联邦学习的团体公平性，同时实现公平与效用之间的权衡。

    Feb, 2024

  • 通过分组学习：一种多层次优化框架，提高分类公平性而不损失准确性

    本文提出了一种新的机器学习框架，旨在为实现公正和准确性而学习分组，从而减少 ML 模型在特定人群中的偏见和歧视，并在各种数据集上实现了最新技术的改进。

    Apr, 2023

  • 低数据环境下公正主动学习

    在数据稀缺环境中，通过结合后验采样和公平分类子程序的创新主动学习框架，我们有效地提高了模型准确性并满足公平约束，证明了该方法在最大限度利用少量标注数据时的有效性，并对已有方法进行了改进。

    Dec, 2023

  • 自然语言处理中的人类辅助公正分类

    本研究提出了使用无监督风格转移和 GPT-3 的零 - shot 技术发现具有表达性和直观性的个体公平规范的新方法，以解决文本分类器中公平性问题。我们使用众包研究验证了所生成的具有人类直觉的公平排除敏感属性的语句对，并展示了有限数量的人类反馈如何帮助训练一种相似度规范来训练下游的公平感知模型。

    Dec, 2022

  • 代理公正性

    本文研究在没有标记受保护组的数据集的情况下，通过改善代理组的公平度量来提高真实敏感组的公平度，并在基准和实际数据集上进行了实验。 然而，该策略的有效性可能取决于公平度量的选择以及代理组在约束模型参数方面与真实受保护组的对齐程度。

    Jun, 2018