划分和消除：基于偏见特定专家混合的客观偏见缓解

ICCVAug, 2023

划分和消除：基于偏见特定专家混合的客观偏见缓解

Partition-and-Debias: Agnostic Biases Mitigation via A Mixture of Biases-Specific Experts

Jiaxuan Li, Duc Minh Vo, Hideki Nakayama

TL;DR消除偏差的图像分类方法：介绍了一种名为 Partition-and-Debias (PnD) 的方法，该方法使用特定偏差的混合专家组来隐式地将偏差空间划分为多个子空间，并使用一个门控模块来在专家之间找到共识，以实现无偏分类。

Abstract

bias mitigation in image classification has been widely researched, and existing methods have yielded notable results. However, most of these methods implicitly assume that a given image contains only one type of

bias mitigation image classification agnostic biases mitigation partition-and-debias debiased classification

发现论文，激发创造

语言引导的未知数据集偏差检测与减轻

在这项研究中，我们提出了一种在没有先验知识的情况下通过关键词的部分出现来识别潜在偏见的框架，并进一步提出了两种去偏方法：(a) 通过指定伪标签将其传递给现有的需要先验知识的去偏方法，以及 (b) 通过文本到图像生成模型进行数据增强，使用获得的偏见关键词作为提示。实验结果表明，尽管简单，我们的框架不仅能在没有先验知识的情况下胜过现有方法，而且甚至可以与假设有先验知识的方法媲美。

Jun, 2024

通过自然语言理解中的偏见专家来改进偏见缓解

通过引入偏见专家（bias experts），我们提出了一个新的去偏框架，改善了辅助模型的偏见识别能力，并且在各种挑战性数据集上始终优于现有技术水平。

Dec, 2023

通过去偏替换网络来识别和减轻未知偏差

提出了 DebiAN 方法来识别和减少深度图像分类器从数据集中学习到的偏见，该方法包括两个网络，一个 Discoverer 和一个 Classifier，旨在在没有任何偏见注释的情况下找到分类器的多个未知偏见。在现实世界的数据集上，DebiAN 发现的未知偏见可能难以被人类发现，且可实现强大的偏见缓解性能。

Jul, 2022

发现和减轻图像分类器中的多个有偏群体

通过分解图像特征为多个组分并生成自然语言描述，使用 DIM 方法来发现和减轻图像分类器中的多个有偏群体，并揭示模型在 Hard ImageNet 上的失误模式，以理解图像分类器中的模型偏差。

Mar, 2024

利用独立于模型的数据归因来减少偏见

通过利用像素图像属性来缩小机器学习模型中的偏见，本文提出了一种新方法，该方法利用卷积神经网络（CNN）分类器通过训练小图像块来提取像素属性，从而实现区域性属性，进而提供有关重要信息在图像中分布的洞察力。通过在偏倚数据集中引入有针对性的噪声，限制神经网络学习这些偏见并强调主要属性，我们的方法证明了在严重偏倚的数据集上训练无偏分类器的有效性。

May, 2024

通用单域推广的模态不可知去偏差

提出了一种适用于多种不同模态的深度神经网络的单一领域通用性（single-DG）算法，称之为 Modality-Agnostic Debiasing (MAD)，它采用一个新颖的双分支分类器，一支专注于识别特定领域的表层特征，另一个则利用来自前一支的知识来捕获领域通用（语义）特征，在多种领域通用任务中取得了极高的效果。

Mar, 2023

使用有偏表示学习没有偏见的表示

本文介绍了一种用于训练去偏置表示的新框架，通过鼓励其与一组从设计上存在偏差的表示不同来实现。该方法可在许多场景中使用，可以提高模型在不同类别中的泛化能力。

Oct, 2019

基于混合样本合成的有限数据情况下分类器去偏

本文研究了深度学习模型中的偏见问题，针对没有关于偏见的先验知识的实际场景，提出了一种新方法，通过合成混合样本来减轻偏见对模型的影响，实验证明我们的方法在有限数据情况下能够有效解决未知偏见问题。

Dec, 2023

DeNetDM：通过网络深度调节降低偏差

当神经网络在偏见数据集上训练时，它们往往会无意中学习到具有偏见的相关性，从而在实现强大的泛化和鲁棒性方面面临挑战。我们介绍了一种新颖的去偏见方法 DeNetDM，它基于浅层和深层网络的不同属性，使用基于专家产品的训练范例创建出带有偏见和去偏见架构的模型，并通过模型转移来生成目标去偏模型。大量实验证明我们的方法优于当前的去偏方法，在三个数据集上取得了约 5% 的明显改进，这些数据集包括合成数据和真实世界数据。DeNetDM 无需偏见标签或偏见类型的注释，仍然能够与有监督的对照模型表现相当。此外，我们的方法有效利用了数据中具有偏见冲突的多样性点，超越了以前的方法，避免了需要显式增强多样性的数据增强方法。该研究的源代码将在接受后提供。

Mar, 2024

稳健自然语言推理中的模型无关去偏策略的实证研究

本文探索了多种方法使自然语言推理模型具有鲁棒性，包括模型去偏，数据增强等，并提供了性能较好的模型集成方法。

Oct, 2020