MDViT：用于小型医学影像分割数据集的多领域视觉 Transformer

Jul, 2023

MDViT：用于小型医学影像分割数据集的多领域视觉 Transformer

MDViT: Multi-domain Vision Transformer for Small Medical Image Segmentation Datasets

Siyi Du, Nourhan Bayasi, Ghassan Harmarneh, Rafeef Garbi

TL;DR本文提出了 MDViT，这是第一个包含领域适配器的多领域 ViT，通过自适应地利用多个小型数据资源 (领域) 中的知识来减轻数据饥饿和对抗 NKT，实现增强跨领域的表示学习。在 4 个皮肤病变分割数据集上的实验表明，MDViT 胜过了最先进的算法，在推理时具有更好的分割性能和固定模型大小，即使增加更多的领域。

Abstract

Despite its clinical utility, medical image segmentation (MIS) remains a daunting task due to images' inherent complexity and variability. Vision transformers (ViTs) have recently emerged as a promising solution to improve MIS; however, they require larger training datasets than convol

medical image segmentation vision transformers multi-domain vit data-efficient knowledge transfer

发现论文，激发创造

融合不同任务和领域的视觉 Transformer

该研究旨在将训练在不同任务或领域的多个 Vision Transformers (ViTs) 合并成一个统一的模型，以保持每个任务或领域的良好性能，通过提出一种简单而有效的门控网络和模型权重相似性度量方法实现整体 ViT 模型的合并和性能提升。

Dec, 2023

医学图像分割的视觉 Transformer 近期综述

医学图像分割是各种医疗应用中至关重要的一环，能够实现准确的诊断、治疗规划和疾病监测。最近，视觉变换器（ViTs）作为一种有望解决医学图像分割挑战的技术逐渐崭露头角。本综述论文对于医学图像分割中 ViTs 和混合视觉变换器（HVTs）的最新发展进行了详细的回顾。除了对 ViT 和 HVT 的分类外，还详细介绍了它们在几种医学图像模态中的实时应用。这篇综述可以作为研究人员、医疗从业者和学生了解 ViT 基于医学图像分割的最新方法的有价值的资源。

Dec, 2023

AViT：适应小型皮肤病变分割数据集的视觉 Transformer

我们在这篇论文中提出了一种名为 AViT 的有效策略，通过将任何预训练的 Vision Transformer（ViT）迁移到皮肤病变分割任务中，以减轻 ViTs 对数据的需求。我们的实验结果表明，AViT 在 4 个皮肤病变数据集上取得了竞争力强甚至优于其他方法的性能，同时使用的可训练参数明显更少。

Jul, 2023

MPViT: 多路径视觉 Transformer 用于密集预测

本文提出了一种新型的多路径视觉 Transformer（MPViT），通过使用重叠卷积视觉 patch 嵌入同时为不同尺度的 feature 生成令牌，将令牌按比例分为多个分支，并对分支进行处理，从而获得丰富的、多尺度的特征表示，在各项指标上均优于当前其他前沿网络，具有广泛的应用前景。

Dec, 2021

跨模态医学图像分割的简单而强大的框架: Vision Transformers 应用

通过使用单一的条件模型，根据输入类型调整其归一化层来实现多模态图像的公平图像分割，并在多模态全心分割挑战中优于其他跨模态分割方法。

Oct, 2023

自主学习视觉 Transformer 用于领域泛化

本文探讨使用自我蒸馏方法解决视觉 Transformer 在领域泛化问题上的过拟合问题，并在五个具有挑战性的数据集上实现了显著的性能提升，同时表现出了对最新领域泛化方法的优异性。

Jul, 2022

利用视觉变换器改善无源目标适应性，以削弱域表示图像

该研究以无监督域自适应为主题，探索了如何利用关键元素来强化 Vision Transformers 在无源目标适应中的性能，通过引入域表示图像（DRIs）作为关键组件，提高了 Transformer 在领域泛化中的效率。

Nov, 2023

基于基础模型的医学图像一次性定位和分割

通过测试在自然图像上训练的各种预训练的视觉 Transformer 和稳定扩散模型，本研究证明它们在医学图像的对应问题和语义分割任务上能够取得良好的性能。

Oct, 2023

自适应 Transformers 用于稳健的少样本跨域人脸防伪

本文提出一种自适应视觉变换器 (ViT) 方法，利用集成适配器模块和特征转换层适应不同域的数据，从而实现跨域活体检测，并在多个基准数据集上取得了与现有方法相媲美的性能.

Mar, 2022

TVT：基于视觉 Transformer 的无监督域自适应模型

本研究提出了一种名为 “可传递视觉 Transformer” 的统一框架，其中融合了迁移学习、注意力机制和聚类方法，以实现基于标签源域的无标签目标域的知识迁移。实验证明，本文所提出的 TVT 方法优于现有的微调和迁移学习方法，通过注入可学习的传递性适应模块来强制 ViT 集中注意力在可转移和辨别性特征上，并借助判别性聚类来增强特征多样性和分离度。

Aug, 2021