医学图像分析可以通过一种扎根于自注意机制的创新架构得到促进。传统的卷积神经网络（CNN）在捕捉像素级复杂空间和时间关系时需要帮助，而其卷积窗口的固定大小限制了输入波动。为了克服这些限制，我们提出了基于注意力模型而非卷积的新范式。这些模型作为传统 CNN 的替代品，表现出强大的建模能力和高效获取全局长范围上下文信息的能力。通过将非重叠（vanilla patching）和新颖的重叠移位补丁技术（S.P.T.s）相结合，我们的工作提供了一种解决注意力视觉模型所面临的关键挑战的方法，包括归纳偏差、权重共享、感受野限制和高分辨率数据处理。此外，我们还研究了适应不同图像尺寸到更高分辨率的新颖 Lancoz5 插值技术。实验证据验证了我们模型的一般化效果，并与现有方法进行了有利比较。特别是在充足数据的情况下，基于注意力的方法特别有效，尤其是在集成先进的数据增强方法来增强它们的鲁棒性时。

Apr, 2024

本研究提出了一种新的基于补丁注意力机制的体系结构，可以为高分辨率图像提供全局上下文，在皮肤病变分类中优于其他基于补丁的方法，并提出了一种诊断引导的损失加权方法以应对类别不平衡问题。

May, 2019

采用引导自我关注机制的卷积神经网络模型对医学图像进行语义分割，能够更好地捕捉图像中的上下文依赖关系，去除冗余的信息提取并集成本地特征和全局依赖，强调相关特征关联，从而取得更好的分割效果。

Jun, 2019

利用放射学报告中的疾病严重程度信息，基于卷积神经网络的注意力引导课程学习（AGCL）框架进行胸部疾病的联合分类和弱监督定位，提高了分类 AUC 和定位召回率和精度。

Jul, 2018

该研究提出了一个领域自适应方法，以学习具有辨别性的特征表示，并使用对抗学习来将目标领域中的特征表示推向源领域中的分布，从而实现了对未标注目标领域的预测。

Jan, 2019

本文提出了一种基于全局相关模块和判别性嵌入损失的少样本医学图像分割方法，利用深度卷积神经网络高效准确地进行分割，取得了最新的实验成果。

Dec, 2020

通过加入可训练的注意力模块，使得卷积神经网络在进行图像分类时能够更好地聚焦于感兴趣的区域，进一步提高了模型的稳健性。

Apr, 2018

本文提出了一种将扩散概率模型分成块进行图像生成的方法，使用一种称为 Global Content Conditioning 的条件方法，可在减少内存消耗 50％的情况下保持图像质量相当的质量。

Apr, 2023

该研究使用了一个经过训练的神经网络，通过激活向量概念来介绍了深度学习的医学图像分类器，以验证模型学习和利用类似于皮肤科医师所描述和使用的疾病相关概念，并且进一步开发 CAV 的神经网络。

May, 2020

通过时间性影像对临床结果或疾病严重性进行预测，利用自我注意力的 TCN 和自监督的视觉 Transformer 来学习最反映疾病轨迹的表示，并使用最大均值差异损失来校准时间和空间特征的分布以提高预测性能。

Mar, 2022