在电脑视觉和自然语言处理领域中，神经网络虽然能够取得最新成果，但是其存在数据内的建模偏见，导致人工智能领域出现了公平性的研究方向，其目的为了纠正算法偏见，提出了几种基于公平性的神经网络去偏置的方法。

Nov, 2022

探索具有偏置数据集中的最佳无偏子网络的方法对于神经网络中可能存在的偏置仍然没有得到充分的研究，因此我们使用 Debiased Contrastive Weight Pruning（DCWP）算法来探索无需昂贵的组注释即可探索无偏子网络的方法，并证明该方法在比参数减少的情况下显著优于现有方法

Oct, 2022

最近的研究发现，深度神经网络在许多实际场景中可能表现出偏见。本研究提出了一种快速模型去偏方法（FMD），该方法通过显式的反事实概念识别偏见属性，并使用影响函数量化数据样本的影响，进而设计了一种基于机器遗忘的策略来高效有效地消除模型中的偏见。实验证明，与现有先进方法相比，我们的方法在达到更高或相当的准确性的同时，具有更少的偏见和更低的去偏成本要求。

Oct, 2023

本论文解决了皮肤病分类模型数据偏差问题，通过综合分析 7 种视觉损伤，防止模型学习虚假相关性并提出了数据集来测试模型的偏差，但发现尽管结果有希望，目前的去偏方法还不足以解决皮肤病模型的偏差问题。

Apr, 2020

通过算法和祖源数据库的使用，可以提高神经网络在极度偏斜的数据集上的分类准确性，并消除与数据集相关的偏见和变异。

Sep, 2018

介绍一种新的语言模型去偏置化的方法，使用剪枝口罩来确定模型去偏置化行为，不需要重新训练模型，可以高效地存储口罩并在推断时切换到多种去偏置行为。

Oct, 2022

基于深度学习模型的皮肤疾病诊断中，为了解决公平性问题且不损害预测准确性，我们提出了一种基于两个偏倚的教师模型的方法，通过权重损失函数进行偏倚与去偏倚的训练，提高了模型的准确度和公平性。

May, 2024

研究发现 AI/ML 系统中存在的偏差主要来源于数据集中过度再现的特征。该论文提出了一种基于生成模型的方法，通过学习潜在变量来减少偏差引起的威胁，算法可以帮助移除数据集中的偏差。两个数据集上的实验结果表明，该方法取得了良好的效果。

Apr, 2022

利用卷积神经网络的权重分析来检测模型的偏差，本文在使用有色 MNIST 数据库的玩具例子和使用最先进的方法和实验资源进行性别识别的现实案例研究中，发现无需对特定输入进行模型推理，查看权重即可判断模型是否存在偏差。在 MNIST 模型中，我们能够以超过 99% 的准确率检测出是否存在强烈或微弱的偏见，并且还能以超过 70% 的准确率分类四个偏见水平。对于面部模型，我们在区分针对亚洲人、黑人或白人的有偏见模型方面实现了 90% 的准确率。

Sep, 2021

本研究通过重构和最小化预期变量之间的统计相依来解决图像训练数据偏见的问题，使用包含 U-net 和预训练分类器的架构，将所提出的模型与最新的去偏见方法进行了对比，并展示了模型的公正性 - 准确性组合。

Sep, 2022