DAS 是一种快速且简单的全卷积方法，通过使用可变形卷积进行图片中相关区域的定位和可分离卷积实现高效，结合了现有 CNN 并通过门控机制传播相关信息，展示了在图像分类和目标检测领域，DAS 相较于其他 CNN 注意机制在减少 FLOPs 的同时取得了更好的性能提升（如在狗类数据集 Stanford Dogs 中提升了 4.47%，ImageNet 中提升了 1.91%，COCO AP 中提升了 3.3%）

Nov, 2023

本文提出了一种双注意力的全卷积连体网络（DASNet），通过对远距离依赖关系的捕获，以获取更具有区分性的特征表示以提高模型的识别性能，通过惩罚注意力以不改变特征对并增加注意力以转换特征对的加权双边距离损失，以解决变化检测的样本不均衡问题，实验结果表明，与其他基线方法相比，所提出的方法在 F1 值上分别实现最大 2.1% 和 3.6% 的提升，具有较强的鲁棒性。

Mar, 2020

该研究提出 Dense Convolutional Network (DenseNet) 模型，使用每一层之前的所有特征图作为输入，解决了梯度消失的问题，促进了特征重用，并在目标识别领域的四个竞争性基准上显着提高了性能效率。

Jan, 2020

本文提出了一种名为深度监督网络（DSN）的方法，该方法同时最小化分类错误并使隐藏层的学习过程变得直接和透明；通过研究深层网络中的新表述，从卷积神经网络结构的三个方面来提高分类性能：中间层到整体分类的透明度、学习特征的区分能力及健壮性（特别是在早期层），以及存在爆炸和消失梯度的有效训练。我们在个别隐藏层中引入 “伴随目标”，并结合随机梯度方法来分析算法。实验结果表明，相对于现有方法，我们的方法具有显著的性能提升（例如在 MNIST，CIFAR-10，CIFAR-100 和 SVHN 等基准数据集上的表现均优于现有技术的最新水平）。

Sep, 2014

该论文提出了一种新的卷积神经网络模型，Selective Tuning of Convolutional Networks (STNet)，该模型通过底层和顶层信息流的选择性调整，实现了对卷积神经网络图像表示的选择调节，用于 ImageNet 数据集上弱监督定位任务，取得了比现有技术更好的结果，并产生了基于注意力的类别推理映射。

Aug, 2017

该论文介绍了一种称为 DenseNet 的神经网络架构，通过将每一层与其他每一层之间连接起来，可以解决传统卷积神经网络中权重消失和特征重用问题，在目标识别领域中表现优异。

Aug, 2016

提出了一种基于谱卷积神经网络 (CNN) 的新型图结构数据模型，称为分布式反馈环路网络 (DFNets)，它结合使用一类强健的谱图滤波器 (feedback-looped filters) 并具有更好的定位能力，同时获得较快的收敛速度和线性内存需求；实验结果表明，该模型在半监督的文档分类和知识图谱实体分类两个基准任务上都显著优于现有的方法。

Oct, 2019

卷积神经网络是建模视觉皮质神经元转移函数的最先进方法。这篇论文发现，与参数匹配的标准卷积神经网络相比，非局部网络或自注意机制在整体调谐曲线相关性和调谐峰值这两个关键度量上可以提高神经响应预测，并且可通过分解网络确定每个上下文机制的相对贡献，揭示了局部感受野中的信息对于模拟整体调谐曲线最为重要，而周围信息对于表征调谐峰值至关重要；并且在学习过程中自注意力可以取代后续的空间整合卷积，与全连接输出层相结合，两种上下文机制相辅相成；最后，学习以接受感受野为中心的自注意模型，在逐步学习全连接输出之前，能够提供更具生物学现实性的中心 - 周围贡献的模型。

Jun, 2024

该研究提出了一种利用反馈机制的学习算法，通过添加反馈层和生成强调向量，不断提升卷积神经网络的性能，特别适用于任何预先训练的模型，并在四个对象分类基准数据集上进行了测试，结果表明利用该算法训练 CNN 模型的优势。

Aug, 2017

介绍一种新的动态滤波网络架构，使得学习的滤波器可以根据输入动态生成，具有高度适应性，且不会过多增加模型参数。通过可视化学习到的滤波器，证明该网络可以在无标签数据上学习信息，从而可以用于各种无监督预训练任务，例如光流和深度估计。

May, 2016