Apr, 2020

应对多数派暴政的对比样例

HTML
PDF
TL;DR本文提出了使用生成对抗网络生成对比样本来平衡训练数据集，以解决在计算机视觉算法（如面部识别）中存在的群体不平衡问题，并探讨了对标签数据和图像数据（CelebA和Diversity in Faces数据集）进行等化奥德斯偏差度量的实验，并展示了对比样本揭示群体成员资格与其他看似中立特征之间的相关性的能力，以及如何将对比样本放置在对应因果图角度的反事实分析。
发现论文，激发创造
  • 利用生成模型表征分类器的偏差

    使用逐步条件生成模型和贝叶斯优化的方法，通过生成对抗网络来分析分类器在种族和性别方面的偏差。

    May, 2019

  • 视觉识别中的公正性：减轻偏见的有效策略

    本文探讨计算机视觉领域中，当进行看似不相关的任务（如活动识别或图像描述）训练时，模型学习偏见的问题，以及避免学习此类偏见的方法，并在CelebA数据集的属性分类任务中使用领域无关的训练技术，有效地减轻了现实世界中的性别偏见。

    Nov, 2019

  • 包容性 GAN：在生成模型中改进数据和少数族裔覆盖率

    通过协调对抗训练和重构生成来提高数据覆盖率，并扩展了一个允许显式控制模型应该包含的少数群体的方法。

    Apr, 2020

  • 通过每个受试者对抗性数据增强探索面部识别中的种族偏见

    本研究提出了一种基于图像转换的敌对数据扩充方法，旨在通过转换感性种族特征的面部图像，实现每个主题的数据集平衡。实验结果表明，该方法可以减少原本不平衡的数据集中对（种族）少数群体的认知偏差，对Softmax，CosFace和ArcFace的识别表现产生积极影响

    Apr, 2020

  • 公平表征的对比学习

    本论文提出了一种采用对比学习的分类器去偏置化的方法，使得模型在保持主要任务性能的前提下，更加公平地代表输入的各种属性，并取得了在NLP和计算机视觉四个任务中的优异表现。

    Sep, 2021

  • Bias Mimicking: 一种用于减轻偏差的简单采样方法

    本文提出了一种新的类别条件采样方法 Bias Mimicking，能够有效地提高具有不平衡数据样本的视觉识别模型中 Bias groups 的识别准确度，并能在较少的超参数调整下实现

    Sep, 2022

  • 朝着负责任的人脸数据集: 对解缠的潜空间建模以从人口群体中采样人脸图像

    该研究论文探讨了一种根据样式生成对抗网络（StyleGAN）潜在空间的简单方法，用于生成平衡且可能无偏差的合成数据集，以用于训练、规范化或评估基于深度学习的人脸识别模型，并证明了可以有效地合成任何组合的人口统计学群体。

    Sep, 2023

  • 检测基于 StyleGAN3 模型的生成对抗网络判别器中的病态偏差：一项案例研究

    生成对抗网络可生成逼真的面部图像，但在预训练的StyleGAN3模型中，鉴别器在图像和面部质量上存在系统性差异，这在性别、种族和其他类别上对图像不公平地影响，我们研究了鉴别器在肤色和亮度上对种族和性别的偏见，并研究了社会心理学中关于刻板印象研究中的常见标准。

    Feb, 2024

  • 利用对抗样本进行偏见缓解和准确性增强

    利用对抗生成和微调的新方法来减轻计算机视觉模型中的偏见，通过使用欺骗深度神经网络但不欺骗人类的对抗图像作为反事实进行公正模型训练，通过 qualitatively 和 quantitatively 的评估证明了相比于现有方法，我们的方法实现了改进的偏见减轻和准确性。

    Apr, 2024

  • 迈向更公平的人脸识别数据集

    利用生成的训练数据集中的人口属性平衡机制，提出了一种全面的评估方法，旨在促进更公平、透明的人脸识别和验证，并发现在减少人口属性不公平的同时，性能差距仍然存在。

    Jun, 2024