提出一种使用 Swin Transformer 对膝关节骨关节炎 (KOA) 进行严重程度预测的自动化方法，使用公开的放射性数据集和 Kellgren 以及 Lawrence 分级来提前检测和评估疾病的严重程度，并通过多预测头架构的多层感知机分类器、降低数据漂移的训练方法，提高模型的准确性和泛化能力。实验证明该方法能够准确预测 KOA 的严重程度。

Jul, 2023

本文提出了一种新的基于 ViT 模型的数据增强方法，采用 Selective Shuffled Position Embedding 和 ROI-exchange 策略，以提高深度神经网络在髌骨关节炎早期检测中的分类性能。实验结果表明，该方法可以显著提高模型的分类性能。

Apr, 2023

近年来，计算机视觉领域中的弱监督语义分割使用基于图像级标签的监督引起了广泛关注。本研究探索了使用 Swin Transformer 的 'SWTformer' 来提高初始种子 CAMs 的准确性，通过结合局部和全局视角。

Jan, 2024

提出了一种新的方法来改进后训练的专门分类器，在应用于膝关节骨关节炎（KOA）模型时提高了初始准确性，并在 NAS 输入向量空间上实现了 60 倍的减少，从而加快了推理速度和超参数搜索的效率，同时将这种方法应用于外部的 KOA 分类模型，提高了其平均准确率，使其成为前三的 KOA 分类模型之一。

Nov, 2023

本研究通过使用深度学习的 Transformer 方法开发了一个多模态膝关节成像数据融合的统一框架，研究了该方法在 Knee Osteoarthritis 进展预测中的表现，并发现 MRI 可以与多模态融合方法媲美，对于短期至长期不同进展范围，ROC 曲线下面积为 0.70-0.76，平均精确度在 0.15-0.54 之间。

Jul, 2023

我们提出了一种高效的端到端管道，用于大规模地标识别和检索，演示如何结合和增强最近图像检索研究中的概念并介绍两种特别适用于大规模地标识别的架构：深度正交融合的全局和局部特征模型（DOLG）使用 EfficientNet 骨干和一种新的混合 Swin 变换器，讨论了如何使用逐步方法高效地训练两种架构，并提供了一个具有动态边缘的子中心 Arcface 损失，此外还详细阐述了一种新的判别式重新排名方法用于图像检索，我们的方法通过赢得 Google Landmark 竞赛 2021 的识别和检索赛道证明了其卓越性。

Oct, 2021

利用深度学习管道，同时对一系列畸变图像进行对齐和重构，并通过 Swin Transformer 模型分析顺序图像数据，通过注意力图检测相关图像内容并与离群值和伪影区分开来，利用神经特征图作为经典关键点检测器的替代方法，从而提供稠密图像描述符以寻找图像间的点对应关系，并运用此来计算粗略的图像对齐并探索其局限性。

Oct, 2023

本论文通过交替聚合局部全局特征，引入了位移卷积实现局部空间信息和通道信息的交互，并提出了块稀疏全局感知模块以进一步实现空间和通道信息的交互。同时，引入了多尺度自注意模块和低参数残差通道注意模块，实现了不同尺度上的信息聚合。在五个公开数据集上验证了提出的网络，在超分辨率方面超过了其他最先进的网络。

Dec, 2023

本文介绍了一种针对视频领域的区域局部性 Transformer 架构，通过使用 Swin Transformer 设计来实现，同时利用预训练模型的威力，取得了行动识别和时间建模等广泛的视频识别基准的最新准确性。

Jun, 2021

本文介绍了一种自我监督学习框架，使用适合医学图像分析的代理任务，成功地在各种人体器官的公开可用的 CT 图像上预训练模型，并在医学分割基准数据集上进行了微调，实现了最先进的匹配结果。

Nov, 2021