本文提出了一种新颖的注视模型用于语义分割，该模型聚合了多尺度和上下文特征进行预测。该模型使用骨骼卷积神经网络框架输入多个不同的尺度，进而可以获取不同尺度的表示。提出的注视模型将分别处理不同尺度的特征并集成它们。然后，该模型的位置注视分支学习到每个像素位置上的多尺度特征的软加权。此外，我们添加了一个重新校准分支，与位置注视分支平行，用于重新校准每个类别的分数图。在 PASCAL VOC 2012 和 ADE20K 数据集上，我们取得了相当有竞争力的结果，超过了基线和相关工作。

Jul, 2018

本论文研究了怎样在卷积神经网络中实现多尺度特征表示，提出了一种注重对每个像素位置进行加权的注意力机制。通过对三个大型数据集的广泛实验，证明了该方法的有效性。

Nov, 2015

本文探讨了 Transformer 网络架构在医学图像分割任务中的可行性，并提出了一种 Gated Axial-Attention 模型和 Local-Global 训练策略以提高模型性能。实验表明，在三组不同的医学图像数据集上，该 Medical Transformer 模型优于卷积和其他相关的 Transformer-based 架构。

Feb, 2021

该研究提出了一种新颖的半监督图像分割方法，该方法同时优化了监督分割和无监督重建目标，并使用了注意机制。使用未标记的和少量标记的图像进行训练，该方法在大脑肿瘤和白质高信号分割等应用中表现优异。多次尝试后，发现交替训练比联合训练成本更低且性能更好，同时，该注意力机制有助于更好地识别深层次图像特征。

Jul, 2019

本文全面比较了各种最先进的自注意机制在多个医学图像分析任务中的效果，并通过定量、定性和临床用户调查，旨在深入了解自注意在医学计算机视觉任务中的影响。

Sep, 2021

该研究提出了一种基于多尺度特征金字塔网络和双重注意机制的 MRI 图像分割方法，通过使用扩张卷积和多尺度特征金字塔网络在编码中避免了语义差距问题，并设计双重注意机制来维护 U-Net 的空间信息和降低不对齐问题。在亚腹部 MRI 图像数据集上的实验表明，该方法比其他方法表现更好。

May, 2023

通过在医学图像上扩展卷积神经网络结构，研究了自注意机制的应用，发现仅仅加入自注意机制并不能提升现有的完全卷积方法的性能。

Apr, 2024

本文介绍了一种基于注意力机制的多尺度预测整合方法，其中的层次化结构能够节省大量内存，提高训练速度和模型精度，并在 Cityscapes 和 Mapillary Vistas 数据集上达到了新的最优结果。

May, 2020

我们提出了一种新颖的技术，使用由单独的卷积自编码器生成的特征图在卷积神经网络中加入了注意力结构体系。我们在皮肤癌分割和肺部病变分割的基准数据集上评估了模型，并与 U-Net 及其残差变体进行对比，结果表明性能颇具竞争力。

Feb, 2019

该研究提出了一种利用卷积神经网络 (CNN) 中的分割信息的方法，通过设置 CNN 来提供嵌入空间来获取分割信息，以便在局部感受野范围内使每个神经元可以选择性地关注来自其本身区域的输入，因此适应于局部分割提示，在两个密集预测任务中展示了性能优于进行过增强的基线的结果。

Aug, 2017