本文介绍了一种使用 GAN 生成图像并在潜在空间中扰动以生成可以平衡每个受保护属性的训练数据的方法，以缓解由相关性所引起的偏差，通过在原始数据集上增加扰动生成的数据，实证证明训练结果准确且具有许多定量和定性上的优势。在 CelebA 数据集上进行了全面评估和分析，与现有文献进行了比较。

Dec, 2020

在这项研究中，我们提出了一种在没有先验知识的情况下通过关键词的部分出现来识别潜在偏见的框架，并进一步提出了两种去偏方法：(a) 通过指定伪标签将其传递给现有的需要先验知识的去偏方法，以及 (b) 通过文本到图像生成模型进行数据增强，使用获得的偏见关键词作为提示。实验结果表明，尽管简单，我们的框架不仅能在没有先验知识的情况下胜过现有方法，而且甚至可以与假设有先验知识的方法媲美。

Jun, 2024

通过利用像素图像属性来缩小机器学习模型中的偏见，本文提出了一种新方法，该方法利用卷积神经网络（CNN）分类器通过训练小图像块来提取像素属性，从而实现区域性属性，进而提供有关重要信息在图像中分布的洞察力。通过在偏倚数据集中引入有针对性的噪声，限制神经网络学习这些偏见并强调主要属性，我们的方法证明了在严重偏倚的数据集上训练无偏分类器的有效性。

May, 2024

通过建模特征交互来检测相关属性以减轻偏见影响的无假设框架，大大减轻了机器学习模型中针对特定人群的歧视和不公平预测行为。

Jul, 2023

通过双模态增强方法在视觉 - 语言数据集中解决报告偏倚问题，提升物体 - 属性理解并改善零样本检索任务效果。

Oct, 2023

该论文提出了一种简单且有效的无监督去偏差技术，该方法利用聚类算法在特征嵌入空间识别伪属性，然后采用一种新颖的聚类加权重新调整方案来学习去偏置表示，以防止少数群体被忽视并达到最坏情况下的概括，实验证明其在多个标准基准测试数据集上具有出色的表现，甚至达到了有监督对照组的竞争精度。

Aug, 2021

对 NLP 应用中有害偏差进行报告和提供测试集对于建立对当前问题的强大理解至关重要。通过观察新的标记属性偏差，我们总结了某些向下 NLP 应用中的性别偏差。针对有偏差的词嵌入可能是消除偏差的最具影响力的第一步。通过研究嵌入词汇的内在属性如何促成这种观察到的标记属性效应，以及当前的后处理方法是否成功解决偏差问题，调查了当前的去偏思路，发现下述两个问题：当前的去偏嵌入方案中没有一个能够缓解标记属性误差，也没有一个内在偏差测量能够预测标记属性影响。通过发现一种新类型的内在偏差测量与标记属性效应有意义的相关性，我们提出了针对静态词嵌入的新的后处理去偏方法，将提出的方法应用于现有嵌入中，取得了标记属性偏差测试集上的最佳结果。

Sep, 2021

通过提出的无监督代理敏感属性标签生成技术来解决在机器学习系统中的偏见问题，该方法包括无监督嵌入生成和聚类两个阶段，其有效性依赖于偏见通过与敏感属性相关的非敏感属性传播，并在高维潜在空间中映射为不同人口群体的聚类。实验结果表明，使用现有算法进行偏见缓解可以得到与真实敏感属性相比可比较的结果。

Dec, 2023

对于医学影像，因果生成建模因其能够回答干预和反事实查询而引起了人们的兴趣。本文主要研究了辅助分类器在生成逆事实图像时对干预效果的监督作用，发现了属性放大的问题，其中在干预过程中，不相关的属性会受到干扰，导致受保护特征和疾病状态之间的偏差。为了解决这个问题，我们提出了软对反事实微调的方法，大大减少了放大效应，并在大型胸部 X 射线数据集上验证了生成图像的有效性。本研究在医学影像的因果建模中迈出了重要一步，使得建模更加真实和无偏。

Mar, 2024

通过在生成模型的潜在空间中使用超平面来发现图像分类器的未知偏差属性，以及我们提出了一个新的变差损失函数和新的正交化惩罚作为约束条件，通过实验评估证明该方法的可行性和有效性，用于在不同领域中检测图像有偏属性的普适性。

Apr, 2021