Oct, 2023

关于测量生成模型的公平性

PDF
TL;DR通过研究公平生成模型的公平度量问题，发现现有的公平度量框架存在相当大的测量误差，并提出了一个新的框架 CLassifier Error-Aware Measurement（CLEAM），通过使用统计模型来解决敏感属性分类器的准确性问题。CLEAM 大大减少了测量误差，并发现文本到图像生成器和 GAN 模型存在相当大的偏见，引发了对它们应用的担忧。
fair generative modelsfairness measurementsensitive attribute classifiersmeasurement errorsclassifier error-aware measurement
发现论文，激发创造
  • 生成模型中的公平性测量

    本文回顾了以往提出的公正度量标准，并讨论了绩效基准框架以及替代度量标准的评估。

    Jul, 2021

  • 公平性生成对抗网络

    本文介绍了公平 GAN，一种生成数据集的方法，这个数据集类似于给定的多媒体数据集，但在分配决策中对受保护属性更公平。我们提出了一种新颖的辅助分类器 GAN，力求实现人口统计学公平或机会平等，并在几个数据集上展示了实证结果，包括名人面孔属性 (CelebA) 数据集、Quick, Draw! 数据集以及一个足球球员图像数据集和他们被罚下的进攻。这种方法适合吸收未标记的数据，我们利用这个方法增强了足球数据集。在生成逼真的图像的同时，方法倾向于改善人口统计学公平和机会平等。

    May, 2018

  • 关于提高深度学习模型公正性的大规模经验研究

    本论文开展了第一次大规模实证研究，全面比较了现有最先进的公平性改进技术的性能，结果显示不同方法在不同数据集和敏感属性上表现存在较大差异，且不同的公平评估指标产生显著不同的评估结果，其中预处理方法和内处理方法优于后处理方法，预处理方法表现最佳，本研究为深度学习模型公平性提供了全面的建议。

    Jan, 2024

  • 数据视角下的公平性：机器学习模型认证

    本文介绍了一个基于交互和隐私保护测试的框架，该框架允许对任何经过训练的模型进行公平程度的认证，无论其训练过程和架构如何，并且提供了一种加密技术来自动进行公平测试和认证推理，同时隐藏参与者的敏感数据。

    Sep, 2020

  • 公平人脸属性分类的分布生成增强

    基于生成模型，提出了一个新的两阶段框架来在有偏数据上训练公平的面部属性分类模型，通过编辑潜在的虚假属性并促进模型对这些属性的不变性，实现在面部属性分类中提升公平性而不损害准确性。

    Mar, 2024

  • 公平性不确定性量化：您有多确定该模型是公平的？

    本文提出了一种在线 multiplier bootstrap 方法，用于构建置信区间，以评估通过在线 SGD 类型算法训练具有 Disparate Impact 和 Disparate Mistreatment 意识的线性二元分类器的公平性，并在合成和实际数据集上说明了其结果。

    Apr, 2023

  • 利用公平性来增强敏感属性的重建

    本篇论文提出了一种通用的重构校正方法，可以在满足用户定义的约束条件（如公平性信息）的同时最小化敌手的猜测的更改，并解决了黑盒访问目标模型的情况下反应了培训数据敏感属性的问题。

    Sep, 2022

  • 从观测数据中学习反事实公平性

    本文提出了一种新的框架 CLAIRE，通过对反事实数据增广和不变化惩罚的表征学习框架有效地减轻了敏感属性的偏差，并在合成和真实数据集上的实验验证了 CLAIRE 在反事实公平性和预测性能方面的优越性。

    Jul, 2023

  • 回归任务中公平度测量方法的一致性

    通过对各种回归任务进行广泛实验，本文全面研究了各种公平性度量方法的输出一致性，结果发现某些方法在特定的回归任务中表现出较差的一致性，因此需要在回归领域中采用更加原则性的方法来度量公平性。

    Jun, 2024

  • 图像上采样方法的公平性评估

    通过综合性框架对条件生成模型进行性能和公平性评估，以图像上采样作为重点应用，并引入 UnfairFace 数据集，揭示了现有方法在公平性和多样性方面的局限性。

    Jan, 2024