Aug, 2023

从希望到安全：通过在潜空间中强制执行正确的原因来纠正深度模型的偏见

PDF
TL;DR通过减少模型对偏见的敏感性，我们提出了一种在概念层面上确保正确原因的新方法，通过梯度来建模偏见，通过选择稳健的方向来减少模型对偏见的影响，并在 ISIC、Bone Age、ImageNet 和 CelebA 数据集上使用 VGG、ResNet 和 EfficientNet 架构，在受控和实际环境中有效地减轻偏见。
deep neural networksspurious correlationsbiased predictionsmodel correctionconcept-level biases
发现论文，激发创造
  • 通过干预解释潜空间

    本研究通过使用干预机制，利用离散变分自编码器来转移预测类别，进而可视化任何隐藏层的编码信息和对应的被干预表示来揭示深度神经网络的隐含概念，并通过评估原始表示与被干预表示之间的差异来确定可改变类别的概念，从而提高模型的可解释性。我们在 CelebA 数据集上展示了我们方法的有效性，并展示了有偏差数据的各种可视化并提供不同的干预方法来揭示和更正偏见。

    Dec, 2021

  • 潜在方向：生成式人工智能中的偏见缓解简单路径

    通过学习潜在空间中的方向并仅修改扩散过程中提供的初始高斯噪声，我们的工作引入了一种新方法，实现多样性和包容性合成图像，这成功地适应了各种去偏差场景，如地理偏差。

    Jun, 2024

  • 通过潜在空间分解揭示独特的概念向量

    该论文提出一种后期无监督方法，通过分解和聚类方法，自动发现深度学习模型中的概念向量，从而支持可解释性分析，可以成功鉴别与疏离数据有关的训练样本

    Jul, 2023

  • 忽视偏见：从深度神经网络嵌入中明确移除偏差和变异

    通过算法和祖源数据库的使用，可以提高神经网络在极度偏斜的数据集上的分类准确性，并消除与数据集相关的偏见和变异。

    Sep, 2018

  • 发现潜在空间中的偏倚：一种无监督的去偏方法

    我们的方法 SteerFair 通过找到模型表示空间中的偏见方向，并在推理过程中将激活值从偏见方向上移开，从而显著减少了提示变化对模型性能的影响，超过了 100 个标签的监督基准，平均准确率提高了 10.86％，分数提高了 12.95，并与 500 个标签的基准性能相匹配。

    Jun, 2024

  • ViG-Bias: 视觉基础偏见发现与缓解

    通过整合视觉解释力量，本研究提出了一个名为 Visually Grounded Bias Discovery and Mitigation (ViG-Bias) 的简单而高效的技术，并通过全面评估证明其对现有的 DOMINO、FACTS 和 Bias-to-Text 等技术的性能提升，在包括 CelebA、Waterbirds 和 NICO++ 在内的多个具有挑战性的数据集上都取得了成功。

    Jul, 2024

  • 倾斜你的头：激活分类器的隐藏空间不变性

    通过反转变换树进行推理的逆变换搜索算法（ITS）能够使深度神经网络具备对空间变换输入的零样本伪不变性，并在所有零样本测试场景上优于基准模型。

    May, 2024

  • 通过潜空间去偏置实现公平的属性分类

    本文介绍了一种使用 GAN 生成图像并在潜在空间中扰动以生成可以平衡每个受保护属性的训练数据的方法，以缓解由相关性所引起的偏差，通过在原始数据集上增加扰动生成的数据，实证证明训练结果准确且具有许多定量和定性上的优势。在 CelebA 数据集上进行了全面评估和分析，与现有文献进行了比较。

    Dec, 2020

  • 学习不学习：使用偏置数据训练深度神经网络

    本文提出了一种新颖的正则化算法，用于训练具有严重偏差的深度神经网络，该算法可以有效地消除特征嵌入中的偏差信息。

    Dec, 2018

  • 简洁为上：恢复意图特征子空间以提高自然语言理解模型鲁棒性

    该研究提出了一种新模型 RISK，旨在利用特征空间来避免偏见，而不是依赖于预先定义的偏见属性，取得了最新的最好性能，并能提高模型的泛化能力。

    Sep, 2022