将跳过连接模型重新构思为可学习的马尔可夫链
研究了跳跃连接技术中规模因子对其效率的影响，提出了递归应用带有层归一化的跳跃连接技术可以显著提高性能并在各种任务包括机器翻译和图像分类技术中具有很好的普适性。
May, 2021
本文发现跳跃连接的使用允许更轻易生成高度可转移的对抗样本，并提出 Skip Gradient Method。作者使用该方法在 ResNets，DenseNets 和 Inceptions 等 DNN 上进行了全面的攻击。作者认为这一发现不仅推动了有关 DNN 的建筑漏洞的新研究，而且为设计安全的 DNN 架构提出了进一步的挑战。
Feb, 2020
深度学习在计算机视觉中取得了显著进展，尤其在图像分类、目标检测和语义分割方面。跳跃连接在深度神经网络架构中起到了重要作用，通过残差学习在训练阶段实现更容易的优化，并在测试阶段提高了准确性。本综述对深度神经网络中跳跃连接的发展进行了全面总结和展望，概述了跳跃连接的简要历史和残差学习在深度神经网络中的发展情况。总结了跳跃连接在训练和测试阶段的有效性，并讨论了在残差学习中使用跳跃连接的未来方向。最后，总结了利用跳跃连接的计算机视觉领域中的重要论文、源代码、模型和数据集，包括图像分类、目标检测、语义分割和图像重建。希望这篇综述能够激发社区中的同行研究人员在各种形式和任务中进一步发展跳跃连接和深度神经网络中的残差学习理论。项目页面可在此 https URL 找到。
May, 2024
本文通过理论证明，展示了深度学习中残差网络加入跳跃连接可以控制子级集的连接性，且在二层 ReLU 网络的全局最小值以下的任何局部最小值将是非常 “浅” 的，其 “深度” 最多为 O (m^[（η-1）/n])，从而解释了跳跃连接在深度学习中的有效性。
Jun, 2020
本研究探讨长短跳跃连接对全卷积网络进行生物医学图像分割的影响，发现在非常深的 FCN 中同时使用长、短跳跃连接是有益的，并展示了非常深的 FCN 在 EM 数据集上实现了接近最新成果的结果而无需进一步的后处理。
Aug, 2016
提出了一种基于全连接跳跃连接网络（FSCN）和自适应连接模块（ACM）的单目深度估计任务的深度学习模型，通过连接深度编码器与解码器的不同分辨率特征，利用深度编码器中浅层特征图的信息进行更准确的深度估计，并在 KITTI 数据集和 NYU Depth V2 数据集上实现了最优结果。
Aug, 2022
通过使用 SkipNet，结合特定输入实现卷积层跳过的目的。我们提出了一个混合学习算法，以解决非可微分跳过决策的问题，并在四个基准数据集上展示了 SkipNet 可以在保留准确性的基础上减少计算量 30-90%。此外，我们定性评估了门控策略，揭示了图像大小和显著性以及跳过层数之间的关系。
Nov, 2017
这份研究分析了 ResNet 的跳跃连接的效应，并提出了新理论结果，证明残差块中的跳跃连接方便保留梯度的范数，并导致稳定的反向传播，这是从优化的角度来看是可取的。研究还提出了一种新方法，Procrustes ResNets，来优化 ResNet 的过渡层，使其范数保持得更好。这些结果可以用来训练更深的网络，并启发新的深层网络架构。
May, 2018