本研究提出了一种新颖的注意力机制，用于增强卷积神经网络进行精细识别，并通过在不需要部件注释的情况下学习参考低层特征激活来更新和纠正输出的概率分布，实验证明，使用我们的方法增强的网络系统地提高了分类准确率和对干扰的稳健性，因此， Wide Residual Networks 自提出建议以来，在 CIFAR-10、Adience 性别识别任务、斯坦福狗和 UEC 食品 - 100 等方面超越了现有技术的分类精度。

Jul, 2018

本文提出了一种使用深度神经网络应用视觉注意力于细粒度分类任务的新管道，通过整合三种类型的注意力，训练领域特定的深度网络，在弱监督约束下避免使用昂贵的注释，并在 ILSVRC2012 数据集和 CUB200_2011 数据集的子集上验证了该方法的有效性，取得了与其他方法相竞争的表现。

Nov, 2014

通过加入可训练的注意力模块，使得卷积神经网络在进行图像分类时能够更好地聚焦于感兴趣的区域，进一步提高了模型的稳健性。

Apr, 2018

通过引入注意力机制，在端到端的训练过程中将其与最先进的前馈网络结构相结合，我们提出了一种卷积神经网络模型 “Residual Attention Network”，并在 CIFAR-10、CIFAR-100 和 ImageNet 三个基准数据集上实现了最佳的物体识别表现。

Apr, 2017

本文针对使用卷积操作在视觉任务中只关注局部局部信息、缺乏全局信息的不足，提出运用自注意力机制对视觉任务进行处理的方法；通过在图像分类和目标检测任务中实现卷积和自注意力的融合，可有效提高模型精度。

Apr, 2019

本文提出了一种利用深度学习技术中的循环记忆 - 关注模块来实现图像多标签分类识别的新方法。通过不使用候选区域提取方法，从卷积特征图中定位注意区域，并使用 LSTM 子网络对这些区域进行语义标记和全局依赖性的序列预测。试验表明该方法在识别准确率和效率上均优于现有技术。

Nov, 2017

采用引导自我关注机制的卷积神经网络模型对医学图像进行语义分割，能够更好地捕捉图像中的上下文依赖关系，去除冗余的信息提取并集成本地特征和全局依赖，强调相关特征关联，从而取得更好的分割效果。

Jun, 2019

本文在 Ba 等人（2014）的循环神经模型的基础上进行实验，研究了在不受约束的视觉环境下细粒度分类的任务，通过使用较强的视觉网络替代传统的 RNN 结构，并在视觉网络的大规模预训练的情况下训练该模型，成功实现比谷歌网络分类模型更好的效果，并表明该模型能够无需边界框等空间监督，自主学习并区分各类狗的品种，具备对端对端的训练等优势。

Dec, 2014

本文提出了一种基于注意力机制的卷积神经网络方法，使用一握多激励模块学习每个输入图像的多个注意区域特征，并在度量学习框架中应用多注意力多类约束，通过推拉相同 / 不同注意力类别的特征以实现多个目标区域的协调，并引入 Dogs-in-the-Wild 数据集以促进细粒度图像识别研究。

Jun, 2018

本文提出了一种受人类感知启发的注意力模型，并将其融合到现代神经网络架构中。实验结果表明，引入注意力机制可以显著提高模型的对抗鲁棒性，在各种随机攻击强度下可以达到最先进的 ImageNet 准确度；通过控制注意力步骤的数量可以使模型的防御能力更强，并且可以对抗更强的攻击；攻击模型生成的对抗样本有着与传统对抗样本不同的全局、显著和空间一致的结构，这些结构来自目标类别并且甚至可以被人类识别，会使模型注意力从原始图像中的主要物体分散开来。

Dec, 2019