DNNs 会选择哪些快捷提示？—— 基于参数空间的研究

ICLROct, 2021

DNNs 会选择哪些快捷提示？—— 基于参数空间的研究

Which Shortcut Cues Will DNNs Choose? A Study from the Parameter-Space Perspective

Luca Scimeca, Seong Joon Oh, Sanghyuk Chun, Michael Poli, Sangdoo Yun

TL;DR本文介绍了一系列实验来深入理解深度神经网络中的快捷学习和其影响。作者设计了一种学习 WCST-ML 的训练过程，证明了在相同的机会下某些提示优先于其他提示，这可以通过 Kolmogorov 复杂度来解释。作者的研究基于 DSprites 和 UTKFace 数据集，强调了消除模型偏见的重要性。

Abstract

deep neural networks (DNNs) often rely on easy-to-learn discriminatory features, or cues, that are not necessarily essential to the problem at hand. For example, ducks in an image may be recognized based on their typical background scenery, such as lakes or streams. This phenomenon, al

shortcut learning deep neural networks wcst-ml kolmogorov complexity model biases

发现论文，激发创造

关于捷径学习的基础

深度学习模型从数据中提取多种多样的特征，但这些特征的使用不仅取决于其预测能力（即特征如何可靠地指示训练数据标签），还取决于其可提取性（即特征从输入中容易提取或利用的程度）。研究表明，某些模型更喜欢使用某些特定的特征，例如纹理优先于形状，图像背景优先于前景对象。本研究通过构建一个具有预测性和可提取性差异的最小显性生成框架，并量化了模型的 Shortcut Bias（即过度依赖快捷特征而忽视核心特征的程度），从而系统研究了预测性和可提取性如何相互作用来影响模型的特征使用。实证结果表明，线性模型相对没有偏见，但引入具有 ReLU 或 Tanh 单隐藏层的模型则会产生偏见。最后，本研究还研究了在实际使用中，模型是如何在自然数据集中权衡预测性和可提取性，并发现了增加模型 Shortcut Bias 程度的可提取性操作。综上所述，这些发现表明，在深度非线性架构中学习快捷特征的倾向是一个基本特征，值得进行系统研究，因为它影响模型解决任务的方式。

Oct, 2023

早期训练动态视角下的快捷学习

本文通过观察 Deep Neural Networks (DNNs) 内部神经元的学习动态，提出了易学特征会导致 Shortcut Learning 的假设，并用实验验证了此假设。文章主张在早期的训练动态中监测模型的表现而非仅仅监测模型准确率。

Feb, 2023

深度神经网络的快捷学习

本文介绍深度学习中的 shortcut learning 问题，该问题用于在标准基准测试中表现良好的决策规则在更具挑战性的测试条件下失败，作者提出了一些模型解释和基准测试的建议，以改善从实验室到真实世界应用的稳健性和可迁移性。

Apr, 2020

医学图像分割中的快速学习

研究通过探索临床注释以及数据集中的零补齐卷积和中心裁剪训练集等因素如何无意中成为快捷方式对医学图像分割准确性产生影响，并确定并评估了两个常见的医学图像分割任务中的快捷方式学习。此外，提出了减轻快捷方式学习影响、提高分割模型普适性的策略，并为评估和克服医学图像分割中普遍存在的挑战提供了见解和方法。

Mar, 2024

公正视觉识别的良性快捷方式：通过快捷特征介入进行去偏

机器学习模型中，为了解决与种族和性别等社会属性相关的公平性风险问题，我们提出了一种名为 "Shortcut Debiasing" 的方法，通过设计控制性的替代特征来代替偏见特征，在训练阶段利用这些特征来提高目标任务的学习，并在推断阶段通过干预来消除这些特征，从而在准确性和公平性方面实现了显著改善。

Aug, 2023

超越捷径：通过神经坍缩的视角进行无偏学习

本文探讨了神经塌缩（Neural Collapse）现象在不平衡属性的偏倚数据集中的影响，提出了一种避免捷径学习的框架，通过设计神经塌缩结构的快捷方式引导模型，以捕捉内在的相关性，从而解决了偏倚分类的根本原因，实验证明该方法在训练过程中具有更好的收敛性能并在综合和真实世界的偏倚数据集上实现了最新的泛化性能。

May, 2024

打鼹鼠困境：缩短路径同时引发多重问题

通过提出具有多个偏差的数据集和评估集，研究了计算机视觉模型在存在多个捷径时的表现，并提出了一个简单而有效的方法，可以在不引起 “打地鼠” 问题的情况下解决多个捷径问题。

Dec, 2022

使用语法归纳寻找数据集快捷方式

本文提出使用概率语法学习发掘 NLP 数据集中的 shortcut，同时也展示这些 features 能够帮助分类器提高最坏组的准确性。

Oct, 2022

问答模型更喜欢学习哪种快速解决方案？

研究发现，QA 模型学习步骤通常倾向于学习 shortcut solutions 而非 QA 数据集所期望的解题方法，而学习 shortcut solutions 的行为扰乱了 QA 模型在 anti-shortcut examples 上的泛化能力。研究人员提出利用 shortcut solutions 的可学习性来设计 QA 训练集，以降低 shortcut solutions 的学习程度，从而提高 QA 模型的准确性。

Nov, 2022

火中取栗：通过引导避免 DNN 捷径

本文通过实证分析表明新加基于先验知识的 priming 特征（例如通过视觉学习中的最近一帧或者图像分类中的醒目前景进行分类）可以显著提高深度学习对图像分类、持续控制和自主驾驶等应用的效果，从而较好地避免训练时出现的 “短路” 现象。理论上，这是因为 priming 特征引导了模型优化的方向，使其避免陷入一些不可靠的简单捷径。

Jun, 2022