最近的研究发现，深度神经网络在许多实际场景中可能表现出偏见。本研究提出了一种快速模型去偏方法（FMD），该方法通过显式的反事实概念识别偏见属性，并使用影响函数量化数据样本的影响，进而设计了一种基于机器遗忘的策略来高效有效地消除模型中的偏见。实验证明，与现有先进方法相比，我们的方法在达到更高或相当的准确性的同时，具有更少的偏见和更低的去偏成本要求。

Oct, 2023

当神经网络在偏见数据集上训练时，它们往往会无意中学习到具有偏见的相关性，从而在实现强大的泛化和鲁棒性方面面临挑战。我们介绍了一种新颖的去偏见方法 DeNetDM，它基于浅层和深层网络的不同属性，使用基于专家产品的训练范例创建出带有偏见和去偏见架构的模型，并通过模型转移来生成目标去偏模型。大量实验证明我们的方法优于当前的去偏方法，在三个数据集上取得了约 5% 的明显改进，这些数据集包括合成数据和真实世界数据。DeNetDM 无需偏见标签或偏见类型的注释，仍然能够与有监督的对照模型表现相当。此外，我们的方法有效利用了数据中具有偏见冲突的多样性点，超越了以前的方法，避免了需要显式增强多样性的数据增强方法。该研究的源代码将在接受后提供。

Mar, 2024

本文针对深度人脸识别在肤色判别方面的争议，提出了基于肤色匹配训练数据和学习自适应边距的元学习算法以缓解算法偏差，并提供了 Identity Shades (IDS) 数据库、BUPT-Globalface 以及 BUPT-Balancedface 数据集。实验结果表明，该算法有效缓解了肤色偏差并实现了更加平衡的人脸识别性能。

May, 2022

本文提出了一种基于最大均值差异的理解下界（ELBO）的变体，该下界替代了 KL 散度，取得了比现有技术更高的多个基准测试结果，包括多个图像分类任务。 此外，本文还提出了一种新的估算给定预测的不确定性的公式，并表明该公式对抗攻击和输入噪声具有更强的健壮性。

Mar, 2020

本文提出了一种名为 RNF 的新的偏差缓解技术，该技术通过仅调节 DNN 模型的任务特定分类头来实现公平，以减少 DNN 模型的歧视，即使输入具有偏差的表示。借助 RNF，我们有效地减少了任务特定性能中的歧视。

Jun, 2021

介绍一种新的针对敏感特征的机器学习公平性框架，通过去除敏感信息和最小化敏感特征的边际贡献来改善模型的公平性。实验结果表明，该模型在公平性指标和预测性能方面均优于相关最先进方法。

Sep, 2019

该论文提出了利用 EDITS 框架通过减少有偏数据来减轻 GNN 模型的偏见，以实现更公平的结果。在新提出的度量指标的引导下，EDITS 可以以模型无关的方式优化输入数据，从而解决针对不同应用场景中不同 GNN 模型的偏差问题，并且不会降低 GNN 模型的性能。

Aug, 2021

提出了 DebiAN 方法来识别和减少深度图像分类器从数据集中学习到的偏见，该方法包括两个网络，一个 Discoverer 和一个 Classifier，旨在在没有任何偏见注释的情况下找到分类器的多个未知偏见。在现实世界的数据集上，DebiAN 发现的未知偏见可能难以被人类发现，且可实现强大的偏见缓解性能。

Jul, 2022

从决策合理性角度出发，通过分析不同子组中神经元的影响，定义参数平衡分数来表征公平决策过程，提出了一种全新的公平性训练任务 - 决策合理性对齐，旨在使深度神经网络在中间层和最终预测时对子组的响应保持一致，提出了一种渐进式算法，即梯度引导的平衡对齐，可以显著提高公平性，同时保持准确性水平，且优于其他方法。

Jun, 2023

本论文提出了一种新的适应性损失函数，该函数强调错分特征向量以指导较有区别的特征学习，从而解决传统损失函数在面部识别中存在的问题，并在多个基准测试上取得了比其他先进替代方案更有效的实验结果。

Nov, 2019