本文提出了一种机制来模仿启动过程对目标检测和分割的影响，结果表明这种过程可以改善对象检测和分割，在噪声干扰等困难情况中比简单的后处理方法更有效。

Nov, 2017

提出了神经启动技术，可适应大型预训练模型中少量标记样本的分布漂移和下游任务，在测试数据上进行轻量级更新，显著提高了分布转移和转移学习基准测试的准确性。

Jun, 2023

深度学习模型从数据中提取多种多样的特征，但这些特征的使用不仅取决于其预测能力（即特征如何可靠地指示训练数据标签），还取决于其可提取性（即特征从输入中容易提取或利用的程度）。研究表明，某些模型更喜欢使用某些特定的特征，例如纹理优先于形状，图像背景优先于前景对象。本研究通过构建一个具有预测性和可提取性差异的最小显性生成框架，并量化了模型的 Shortcut Bias（即过度依赖快捷特征而忽视核心特征的程度），从而系统研究了预测性和可提取性如何相互作用来影响模型的特征使用。实证结果表明，线性模型相对没有偏见，但引入具有 ReLU 或 Tanh 单隐藏层的模型则会产生偏见。最后，本研究还研究了在实际使用中，模型是如何在自然数据集中权衡预测性和可提取性，并发现了增加模型 Shortcut Bias 程度的可提取性操作。综上所述，这些发现表明，在深度非线性架构中学习快捷特征的倾向是一个基本特征，值得进行系统研究，因为它影响模型解决任务的方式。

Oct, 2023

本文研究了深度强化学习算法中的优先性偏差问题，提出了一种简单且通用的机制来解决这个问题，并将其应用于离散和连续动作领域的算法中，从而显著提高了它们的性能。

May, 2022

本文介绍了一系列实验来深入理解深度神经网络中的快捷学习和其影响。作者设计了一种学习 WCST-ML 的训练过程，证明了在相同的机会下某些提示优先于其他提示，这可以通过 Kolmogorov 复杂度来解释。作者的研究基于 DSprites 和 UTKFace 数据集，强调了消除模型偏见的重要性。

Oct, 2021

本文通过观察 Deep Neural Networks (DNNs) 内部神经元的学习动态，提出了易学特征会导致 Shortcut Learning 的假设，并用实验验证了此假设。文章主张在早期的训练动态中监测模型的表现而非仅仅监测模型准确率。

Feb, 2023

深度神经网络易受到捷径学习的影响，本文通过拓扑数据分析和持久同调的研究，找出一种能够解决深度学习中的捷径学习问题的统一方法。

Feb, 2024

本文探讨了神经塌缩（Neural Collapse）现象在不平衡属性的偏倚数据集中的影响，提出了一种避免捷径学习的框架，通过设计神经塌缩结构的快捷方式引导模型，以捕捉内在的相关性，从而解决了偏倚分类的根本原因，实验证明该方法在训练过程中具有更好的收敛性能并在综合和真实世界的偏倚数据集上实现了最新的泛化性能。

May, 2024

本文提出一种新方法来缓解深度神经网络在无控制目标域中过度依赖训练数据集中的伪相关性。 该方法通过扩展训练集并引入一个特定设计的源域来促进独立表示的学习，从而检验我们的想法。我们的主要发现是利用来自源域的数据是缓解跨域组合泛化中的快捷学习的有效方法。

Jul, 2022

通过在神经网络中引入先前的信息，我们能够在失败的机器学习算法无法学习的情况下解决任务。在这项研究中，我们通过对 64x64 的二进制图像数据集进行训练，使用一个两层 MLP 体系结构学习任务，其中包括以先前的中间阶段作为监督的中间级概念，从而获得可靠的正面证据来支持我们的假设。

Jan, 2013