语义分割是计算机视觉中的一个重要问题。近期，采用端到端卷积神经网络的语义分割算法比传统方法更准确。然而，基于注意力机制的解码器在多个数据集上已经达到了最先进的性能，但这些网络通常只与之前的最佳网络的 mIoU 进行比较，忽略了它们的特点，并未考虑到不同类别中的计算复杂性和精度，这在工程应用中是必不可少的。此外，分析 FLOPs 和内存的方法在不同网络之间不一致，使得比较难以使用。此文首先进行实验以分析其计算复杂性并比较其性能。然后总结适用于这些网络的场景，并得出构建注意力网络时应关注的关键点。最后，指出了注意力网络的一些未来方向。

Sep, 2023

提出了一种名为 SA2-Net 的方法，利用多尺度特征学习来有效处理微观图像中的不同结构，通过尺度感知注意力模块实现对微观区域的准确分割，并通过自适应上采样模块解决了模糊边界的问题。

Sep, 2023

本篇论文介绍了一种新颖的卷积自注意力网络，通过引入多头注意力机制，加强了邻近元素之间的依赖关系，并能够对各个注意力头提取的特征之间的交互进行建模，用于机器翻译任务中能有效提高自注意力网络的本地性，实验证明该方法优于常用的 Transformer 模型和其他已有的模型，并且没有更多的额外参数。

Apr, 2019

自动驾驶汽车的语义分割是理解周围环境的关键技术。研究通过融合编码器 - 解码器和两通道架构，提出了空间助理编码器 - 解码器网络（SANet），并在设计中利用不同分辨率的特征提取和池化模块以优化特征提取和实现语义提取，最终在实时 CamVid 和 Cityscape 数据集上达到竞争性的结果。

Sep, 2023

本文提出了一种新的体系结构 ——SEEA-UNet，它结合了 Attention UNet 和 Squeeze Excitation Network 以获取空间和通道级别的信息，并使用二元焦点损失和 Jaccard 系数监控模型性能。与现有体系结构相比，该模型在少量时期的训练中表现更好。

May, 2023

提出了一种新的模型，称为 AttaNet，用于在保持高效的同时捕获全局上下文和多级语义，通过 Strip Attention 模块和 Attention Fusion 模块实现低复杂度计算和加权特征融合技术，并在两个语义分割基准测试中进行了广泛的实验，取得了不同水平的速度 / 精度平衡和领先的表现。

Mar, 2021

该研究提出了 FLANet 方法，可以通过单个相似度图来同时编码空间和通道注意力，并在三个具有挑战性的语义分割数据集上最先进的性能达到 83.6％，46.99％和 88.5％。

Dec, 2021

本文提出了一种基于场景感知注意力的空间注意力模块和局部 - 全局类注意力机制，以此构建一种应用于遥感图像语义分割的场景感知类别注意力网络（SACANet），试验表明 SACANet 的性能优于其他最先进的方法并验证了其有效性。

Apr, 2023

使用金字塔注意力网络 (PAN) 进行语义分割，通过特征金字塔注意力模块和全局注意力上采样模块提取精确的密集特征，优于现有方法，可达到 PASCAL VOC 2012 和 Cityscapes 数据集的最高精度 mIoU 84.0%。

May, 2018

该研究提出了一种利用卷积神经网络 (CNN) 中的分割信息的方法，通过设置 CNN 来提供嵌入空间来获取分割信息，以便在局部感受野范围内使每个神经元可以选择性地关注来自其本身区域的输入，因此适应于局部分割提示，在两个密集预测任务中展示了性能优于进行过增强的基线的结果。

Aug, 2017