Oct, 2023

通过联合子空间估计从神经网络表示中去除虚假概念

PDF
TL;DR神经网络中的概念相关性对于网络的超出分布泛化有不利影响，为了解决这个问题，作者提出了一种迭代算法，通过联合识别神经网络表示中的两个低维正交子空间来分离与主要任务无关的概念，该算法在计算机视觉和自然语言处理的基准数据集上表现优于现有的概念去除方法。
发现论文，激发创造
  • 深度概念去除

    我们提出了一种基于对抗线性分类器的新方法，用于解决深度神经网络中的概念消除问题，旨在学习不编码特定概念（如性别等）的表示。我们的方法在网络的各个层次上引入了对抗性探测分类器，有效地解决概念交织问题，并改善了分布不鲁棒优化和超出分布的泛化任务中的性能。

    Oct, 2023

  • 无监督概念发现减轻虚假相关性

    我们提出了一种用于减轻虚假相关的概念平衡技术，通过利用现有的物体为中心的表示学习方法，无需对子群进行人工标注，在水鸟、CelebA 和 ImageNet-9 基准数据集上进行评估并展示了优越或竞争性的性能。

    Feb, 2024

  • 预先训练的图像表示中伪特征的鉴别和分离

    本论文旨在研究预训练表示中的错误相关性如何影响神经网络的预测性能，探索除去有关错误特征的方法，提出了线性自编码器训练方法来分离表示，并提出了两种有效的错特征去除方法，应用于编码并显著提高了最差组准确率。

    Jun, 2023

  • 利用子空间技术和特征的概率建模进行样本外检测

    本文提出了一种基于降维增强深度神经网络（DNN）的离群检测方法：通过对高维特征进行线性与非线性降维，得到更真实的特征嵌入子空间，利用其计算分布学习和特征重构误差有效地检测不在分布内的样本，实验结果表明其效果优于一些已有方法。

    Dec, 2020

  • 线性对抗概念抹除

    提出了一种通过线性极小极大博弈模型来定位和清空文本中的线性子空间，以防止线性预测器恢复与偏见相关的概念，该方法可以减轻内在和外在因素造成的偏见。

    Jan, 2022

  • 深度稳健学习 - 针对外部分布泛化

    本文主要研究基于深度神经网络的方法在训练数据与测试数据分布不一致时的性能问题，并通过学习训练样本的权重以消除特征之间的依赖关系，从而提高深度模型的性能。通过在多个分布泛化基准测试上的实验，与同类研究相比，我们的方法取得了很好的效果。

    Apr, 2021

  • 基于核函数的概念抹除

    本文提出一种核化线性 minimax 游戏的方法以实现对神经模型中的非线性编码概念的抹除，虽然保护措施不能转移到不同的非线性对手，因此彻底抹除非线性概念仍是一个待解决的问题。

    Jan, 2022

  • 探针分类器在概念移除和检测中不可靠

    研究人员发现，基于文本数据训练的神经网络模型存在不可取的语言或敏感概念问题。本文通过广泛的理论和实证分析，证明了使用事后和对抗方法无法完全删除有问题的概念，并有可能破坏所有有用任务特征，并建议使用伪度量衡量最终分类器的质量。

    Jul, 2022

  • 通过简单偏好的视角早期识别训练中的伪偏差

    研究表明，梯度下降训练的神经网络具有归纳偏差，倾向于学习简单的解决方案，导致学习到与标签高度相关的简单虚假特征而非复杂的核心特征，此文介绍一种名为 SPARE 的方法，能够早期发现含有虚假相关性的大型分组，并利用重要性抽样来平衡组大小，从而减轻虚假关联的影响，相对于现有方法，SPARE 方法的最差组准确度提高了最高达 5.6%，速度提高了多达 12 倍。

    May, 2023

  • 子空间防御：通过学习纯净信号的子空间来排除对抗性扰动

    通过谱分析来检查样本特征的子空间，我们首先从实证角度表明干净信号或对抗扰动的特征分别是冗余的，而且在低维线性子空间中重叠较少，并且经典的低维子空间投影可以将扰动特征压缩到干净信号的子空间之外，从而使得深度神经网络可以学习一个只包含干净信号特征的子空间，抛弃扰动特征，从而能够区分对抗性样本。为了防止子空间学习中不可避免的残余扰动，我们提出一种独立性准则来区分干净信号和扰动。实验结果表明，所提出的策略能够本质上抑制对抗者，不仅提高了模型的鲁棒性，而且还给出了有效对抗防御的新方向。

    Mar, 2024