ECCVSep, 2018

忽视偏见：从深度神经网络嵌入中明确移除偏差和变异

PDF
TL;DR通过算法和祖源数据库的使用，可以提高神经网络在极度偏斜的数据集上的分类准确性，并消除与数据集相关的偏见和变异。
neural networksimage classificationbiasesalgorithmancestral origin database
发现论文，激发创造
  • 学习不学习：使用偏置数据训练深度神经网络

    本文提出了一种新颖的正则化算法，用于训练具有严重偏差的深度神经网络，该算法可以有效地消除特征嵌入中的偏差信息。

    Dec, 2018

  • 视觉和语言研究中实现更公平的神经模型的去偏置方法：一份调查报告

    在电脑视觉和自然语言处理领域中，神经网络虽然能够取得最新成果，但是其存在数据内的建模偏见，导致人工智能领域出现了公平性的研究方向，其目的为了纠正算法偏见，提出了几种基于公平性的神经网络去偏置的方法。

    Nov, 2022

  • 通过无监督预训练学习的图像表示包含类人偏差

    本文通过研究基于大规模未标记图像数据的机器学习方法，并发现其可能对种族，性别，体重，残疾和少数种族存在的偏见和刻板印象进行了分类和嵌入，从而证明了这些模型可能会自动学习社会偏见。

    Oct, 2020

  • 贝叶斯神经网络后验估计尖化对隐性视觉偏差的缓解

    这篇论文提出了一种基于贝叶斯神经网络的去偏方法，通过刻画后验概率与数据偏差 (or 伪相关性) 之间的关系，利用高确信性的核心特征代替不确定性高的特征，从而提高了模型的公平性和准确性。

    Mar, 2023

  • InsideBias: 深度网络偏差测量与应用于面部性别生物特征识别

    研究探讨基于深度神经网络架构的学习过程中的偏见，分析了偏见如何通过玩具示例和案例研究影响深度学习过程中的性别检测模型，提出了一种新的 InsideBias 方法来检测偏见模型。

    Apr, 2020

  • 平衡数据集并不足够：在深度图像表示中估计和缓解性别偏见

    本文提出了一个框架来度量和降低视觉识别任务中与保护变量（例如性别）有关的固有偏差。通过采用对抗性方法来从深度神经网络中去除受保护变量的不想要的特征，我们展示了该方法的有效性，并在两个数据集上进行了实验。实验结果表明，在保持准确性的情况下，本方法减少了性别偏见的放大。

    Nov, 2018

  • 视觉 Transformer 中的社会偏见的多维分析

    图像模型的嵌入空间已经被证明可以编码一系列的社会偏见，该研究调查了对于视觉转换器（ViT）中出现这些偏见的具体因素，并测量了训练数据、模型架构和训练目标对 ViTs 学习表示中的社会偏见的影响。研究结果表明，基于反事实增强训练的扩散式图像编辑可以缓解偏见，但并不能完全消除；而且，相较于小模型，我们发现大模型的偏见较少，并且使用辨别目标进行训练的模型比使用生成目标进行训练的模型偏见较少。此外，我们观察到学习到的社会偏见存在不一致性，令人惊讶的是，当使用不同的自监督目标在相同数据集上训练时，ViTs 可能表现出相反的偏见。我们的发现揭示了导致社会偏见出现的因素，并提出了基于模型设计选择可以实现相当大程度的公平改善。

    Aug, 2023

  • 针对数据集偏差的 CNN 表示研究

    本研究提出了一种简单而有效的方法来诊断 CNN 的特征表示，以发现由数据库偏差引起的表示缺陷和失败模式，并使用隐含属性关系和基础真相关系进行比较来挖掘潜在关联性。实验表明该方法的有效性。

    Oct, 2017

  • 视觉偏差缓解的知识不确定性加权损失

    提出一种基于贝叶斯神经网络和认知不确定性加权损失函数的方法，动态识别可能训练样本中的偏见并在训练期间对其加权，以减弱深度神经网络在视觉数据中出现的学习偏见。在偏见基准数据集和实际面部检测问题上，展示了这种方法缓解视觉偏见的潜力，并考虑了方法的优点和缺点。

    Apr, 2022

  • 从希望到安全：通过在潜空间中强制执行正确的原因来纠正深度模型的偏见

    通过减少模型对偏见的敏感性，我们提出了一种在概念层面上确保正确原因的新方法，通过梯度来建模偏见，通过选择稳健的方向来减少模型对偏见的影响，并在 ISIC、Bone Age、ImageNet 和 CelebA 数据集上使用 VGG、ResNet 和 EfficientNet 架构，在受控和实际环境中有效地减轻偏见。

    Aug, 2023