本文利用人类的知识针对神经网络的偏见问题提出了一个基于失败的去偏见训练方法,该方法通过训练两个神经网络同时进行,其思想是:(a) 通过反复放大偏见意图意图有意地训练第一个网络,(b) 重点关注具有对该偏差反对意见的样本以去偏见训练第二个网络。实验表明,该方法在合成和真实数据集中显著改善了网络抵御各种偏见的训练,甚至在某些情况下,比需要显式监督的有关特征的去偏见方法表现更好。
Jul, 2020
该论文提出了一种简单且有效的无监督去偏差技术,该方法利用聚类算法在特征嵌入空间识别伪属性,然后采用一种新颖的聚类加权重新调整方案来学习去偏置表示,以防止少数群体被忽视并达到最坏情况下的概括,实验证明其在多个标准基准测试数据集上具有出色的表现,甚至达到了有监督对照组的竞争精度。
Aug, 2021
本文研究了深度学习模型中的偏见问题,针对没有关于偏见的先验知识的实际场景,提出了一种新方法,通过合成混合样本来减轻偏见对模型的影响,实验证明我们的方法在有限数据情况下能够有效解决未知偏见问题。
Dec, 2023
本研究提出了一种基于特征级数据增广技术的去偏方法,通过使培训数据多样化,可以更有效地消除图像分类模型中偏见的影响。
Jul, 2021
本文介绍了一种自监督去偏置的框架,可以有效地去除神经网络中的伪相关性对泛化能力的影响,并提高自监督学习的性能。
Oct, 2022
通过引入偏见专家(bias experts),我们提出了一个新的去偏框架,改善了辅助模型的偏见识别能力,并且在各种挑战性数据集上始终优于现有技术水平。
本文提出了一种检测和忽略数据集特异性模式的方法,采用高低容量模型的集成训练,以自动捕捉相对浅层的相关性,并确保两个模型学习不重叠的方法,以利于更好地泛化模式。
Nov, 2020
本文提出了一种名为 Ada-ABC 的去偏差框架,不依赖于显式偏差标签,以解决医学图像中的数据集偏差问题。Ada-ABC 通过构建一个包含多个分类器的有偏议评议会,并在其指导下同时训练一个去偏模型,使得去偏模型能够在被评议会正确预测的样本上达成自适应一致,并在被评议会错误预测的样本上达成不一致,从而在不忽视具有伪相关性样本中的丰富信息的同时,学习不受伪相关性影响的目标特征。实验证明了 Ada-ABC 在医学图像分类中缓解数据集偏差方面的有效性,并构建了第一个医学去偏差基准测试集。
Jan, 2024
在这项研究中,我们提出了一种在没有先验知识的情况下通过关键词的部分出现来识别潜在偏见的框架,并进一步提出了两种去偏方法:(a) 通过指定伪标签将其传递给现有的需要先验知识的去偏方法,以及 (b) 通过文本到图像生成模型进行数据增强,使用获得的偏见关键词作为提示。实验结果表明,尽管简单,我们的框架不仅能在没有先验知识的情况下胜过现有方法,而且甚至可以与假设有先验知识的方法媲美。
Jun, 2024
基于引入可学习的辅助变量的 BAM 算法通过扩大偏差,训练模型并在重新加权数据集上继续训练,从而在计算机视觉和自然语言处理的虚假相关基准测试中取得了竞争性的性能,同时发现基于最小类别准确率差异的简单停止准则可以消除对群组注释的需求,或者在最差组准确率上几乎没有损失。
Sep, 2023