CVPRDec, 2020

通过潜空间去偏置实现公平的属性分类

PDF
TL;DR本文介绍了一种使用 GAN 生成图像并在潜在空间中扰动以生成可以平衡每个受保护属性的训练数据的方法，以缓解由相关性所引起的偏差，通过在原始数据集上增加扰动生成的数据，实证证明训练结果准确且具有许多定量和定性上的优势。在 CelebA 数据集上进行了全面评估和分析，与现有文献进行了比较。
fairnessvisual recognitionbiased datagansdata augmentation
发现论文，激发创造
  • 通过对抗性框架学习公平表示

    本文介绍了一个最小二乘对抗框架，其中一个发生器生成学习个体的潜在表示，一个评论家保证了不同保护组的分布相似，从而在保留足够信息的同时解决了受保护属性引起的潜在偏差问题，为公平分类提供了理论保证。经验结果表明，这种方法可以有效地用于分类任务，特别是在删除受保护属性不足以实现公平分类的情况下。

    Apr, 2019

  • 在数据领域探索公平性表示

    本文提出了一种数据之间的翻译方法，实现了图像或表格数据的公平性，有效避免保护特征的语义性对公平性造成的影响，并在实际数据集面对性别这一保护特征时表现出了很好的机会平等性。

    Oct, 2018

  • 利用视觉语言驱动的图像增强提高公平性

    本文提出了一种方法，通过学习语义空间中可解释和有意义的路径来减轻深度学习区分模型中的相关性，以提高公平性。通过编辑受保护特征（如年龄和肤色），将这些路径应用于增强图像，从而改善给定数据集的公平性。

    Nov, 2023

  • 性别倾斜：通过属性操作实现计算机视觉模型的反事实公平性

    本文提出了一种使用编码器 - 解码器网络开发的人脸图像合成方法，以测量商业计算机视觉分类器的反事实公平性，并报告了在线搜索服务中与职业相关的关键字中出现的偏向性，用以解释模型偏差的来源。

    May, 2020

  • 不需重新训练深度生成模型的公平性改进

    该研究使用生成对抗网络 (GANs) 生成面孔，发现在生成图像的过程中，训练数据中的偏见被放大。为了解决这个问题，提出了一种可解释的基准方法来平衡产生的面部属性，从而产生更平衡的数据。同时，该方法具有泛化能力来处理多个属性以及细分组的样本合成，进而用于量化商业人脸属性分类器和人脸超分辨率算法中的偏见。

    Dec, 2020

  • 透过公平的镜子：减少图像数据集中的偏差

    本研究通过重构和最小化预期变量之间的统计相依来解决图像训练数据偏见的问题，使用包含 U-net 和预训练分类器的架构，将所提出的模型与最新的去偏见方法进行了对比，并展示了模型的公正性 - 准确性组合。

    Sep, 2022

  • 利用概率受保护特征估计和实现常规公平度量

    在有限的受保护属性标签访问情况下，本文开发了测量和减少公平违规的方法，提出了估计现有模型的常见公平度量和解决约束非凸优化问题以限制公平违规的模型训练技术，并且相比其他受限受保护属性的公平优化方法，在减小公平度的同时减少了公平性和准确性的权衡。

    Oct, 2023

  • 公平性生成对抗网络

    本文介绍了公平 GAN，一种生成数据集的方法，这个数据集类似于给定的多媒体数据集，但在分配决策中对受保护属性更公平。我们提出了一种新颖的辅助分类器 GAN，力求实现人口统计学公平或机会平等，并在几个数据集上展示了实证结果，包括名人面孔属性 (CelebA) 数据集、Quick, Draw! 数据集以及一个足球球员图像数据集和他们被罚下的进攻。这种方法适合吸收未标记的数据，我们利用这个方法增强了足球数据集。在生成逼真的图像的同时，方法倾向于改善人口统计学公平和机会平等。

    May, 2018

  • 公平人脸属性分类的分布生成增强

    基于生成模型，提出了一个新的两阶段框架来在有偏数据上训练公平的面部属性分类模型，通过编辑潜在的虚假属性并促进模型对这些属性的不变性，实现在面部属性分类中提升公平性而不损害准确性。

    Mar, 2024

  • 公平映射

    为了解决模型中存在的错误偏见，本研究提出了一种新的预处理方法 - 公平映射，通过转换敏感组的数据分布到一个特定的目标分布上，并且实现保护敏感属性不被推论的目标来改善数据的公平性。实验结果表明，该方法能够同时隐蔽敏感属性，不失数据的特性，同时提高了后续数据分析任务的公平性。

    Sep, 2022