卷积神经网络是建模视觉皮质神经元转移函数的最先进方法。这篇论文发现，与参数匹配的标准卷积神经网络相比，非局部网络或自注意机制在整体调谐曲线相关性和调谐峰值这两个关键度量上可以提高神经响应预测，并且可通过分解网络确定每个上下文机制的相对贡献，揭示了局部感受野中的信息对于模拟整体调谐曲线最为重要，而周围信息对于表征调谐峰值至关重要；并且在学习过程中自注意力可以取代后续的空间整合卷积，与全连接输出层相结合，两种上下文机制相辅相成；最后，学习以接受感受野为中心的自注意模型，在逐步学习全连接输出之前，能够提供更具生物学现实性的中心 - 周围贡献的模型。

Jun, 2024

使用递归神经网络结合卷积神经网络提取物体自身结构信息来增强视觉追踪系统对于相似干扰的鲁棒性。在 OTB100、TC-128 和 VOT2015 三个基准测试集上不仅表现优异，且代码已经公开发布。

Nov, 2016

本文提出了一种使用深度神经网络应用视觉注意力于细粒度分类任务的新管道，通过整合三种类型的注意力，训练领域特定的深度网络，在弱监督约束下避免使用昂贵的注释，并在 ILSVRC2012 数据集和 CUB200_2011 数据集的子集上验证了该方法的有效性，取得了与其他方法相竞争的表现。

Nov, 2014

本研究旨在通过多任务学习方式训练一个网络实现视觉注意力，使用半监督学习方式生成前 / 背景分割标签，进而训练目标检测模型，利用分割地图实现自我注意机制，获得在交通监控领域两个数据集上显著的 mAP 改进，UA-DETRAC 和 UAVDT 数据集上均实现了最先进的结果。

Feb, 2020

该研究提出了一种新的注意力模型，可以通过多层卷积神经网络的渐进式注意力过程精确地关注各种规模和形状的图像目标。实验证明，与传统的注意力方法相比，在视觉属性预测任务中，所提出的注意力网络效果更好。

Jun, 2016

本文提出了一个名为 Spatiotemporal Sampling Network (STSN) 的模型，使用了时间上的可变卷积，在视频中进行目标检测。通过从相邻的帧中学习空间采样特征，本文展示了 STSN 具有鲁棒性，并且不需要额外的监督。该模型在 ImageNet VID 数据集上表现优异，并且相比于之前的视频目标检测方法，本文的方法利用了更简单的设计且对于训练没有光流数据的要求。

Mar, 2018

本文提出了一种新的形态拓扑注意力图卷积长短记忆网络（TACNet）用于生物医学图像的三维分割，其中采用了 ConvLSTM 和迭代形态拓扑注意（ITA）模块，对于三维分割任务可以实现高的结构准确性和更稳定的关键拓扑图，定量定性结果表明该方法在拓扑感知指标方面优于其他基线模型。

Feb, 2022

本文提出了一种新的空时网络（StNet）架构来进行局部和全局的空时建模，通过将 N 个连续的视频帧堆叠成一个超级图像，并对超级图像应用二维卷积来捕获局部空时关系，再对局部空时特征映射应用时间卷积来建模全局空时关系，该方法在动作识别方面优于现有技术，也在模型复杂度和准确度之间取得了理想的平衡，实验结果表明该方法可以广泛应用于视频表示的学习。

Nov, 2018

通过深度学习网络结构，我们的视觉注意力网络从全局到本地不同范围内的多尺度特征中提取等级显著信息以预测人眼的视觉注视点，并在各种基准数据集上实现了最先进的性能表现。

May, 2017

本文提出了一种基于 Transformer 和注意力机制的对称变压器框架，其中融合了局部感知机制和全局相关特征学习，在图像压缩方面表现出更好的效果。

Mar, 2022