Nov, 2023

利用视觉变换器改善无源目标适应性，以削弱域表示图像

PDF
TL;DR该研究以无监督域自适应为主题，探索了如何利用关键元素来强化 Vision Transformers 在无源目标适应中的性能，通过引入域表示图像（DRIs）作为关键组件，提高了 Transformer 在领域泛化中的效率。
unsupervised domain adaptationconvolutional neural networksvision transformersdomain representation imagesdomain generalization
发现论文，激发创造
  • TVT：基于视觉 Transformer 的无监督域自适应模型

    本研究提出了一种名为 “可传递视觉 Transformer” 的统一框架，其中融合了迁移学习、注意力机制和聚类方法，以实现基于标签源域的无标签目标域的知识迁移。 实验证明，本文所提出的 TVT 方法优于现有的微调和迁移学习方法，通过注入可学习的传递性适应模块来强制 ViT 集中注意力在可转移和辨别性特征上，并借助判别性聚类来增强特征多样性和分离度。

    Aug, 2021

  • 基于视觉转换器的对抗领域自适应

    无监督领域自适应方法已取得了最新的优秀成果，并大多数使用了卷积神经网络作为特征提取器，然而视觉转换器虽已被广泛应用于计算机视觉任务，却未在对抗性领域自适应中研究过，本文填补了这一空白，并证明视觉转换器可直接应用于现有的对抗性领域自适应方法，以提升性能。

    Apr, 2024

  • 加密图像下高效微调视觉转换模型的领域适应

    我们提出了一种使用视觉变换器 (ViT) 对转换图像进行模型微调的新方法，该转换图像域自适应方法不会导致模型准确度下降，基于 ViT 的嵌入结构进行实施，实验证实了该方法在使用 CIFAR-10 和 CIFAR-100 数据集的加密图像时仍能防止准确度下降。

    Sep, 2023

  • 领域特异性引导变形器以实现无来源领域适应

    在隐私导向的无源情况下，我们提出了一种使用视觉转换器进行领域适应的方法，通过构建领域可辨识输入（DRI），利用查询提取特定领域信息，并在统一模型中实现领域特异性和任务特异性的解耦和学习，实现了在单源、多源和多目标基准上的最先进性能。

    Aug, 2023

  • TransferAttn：可传递引导的注意力是视频领域自适应的必需

    使用转换器图层作为特征编码器，将空间和时间的可传递性关系融入到注意机制中，提出了 TransferAttn 框架以适应不同骨干的跨领域知识，通过改变自注意机制为可传递性注意机制，引入 DTAB 模块来增加 ViT 的可传递性，验证了 TransferAttn 和 DTAB 在多个数据集和不同骨干下的有效性。

    Jul, 2024

  • 自主学习视觉 Transformer 用于领域泛化

    本文探讨使用自我蒸馏方法解决视觉 Transformer 在领域泛化问题上的过拟合问题，并在五个具有挑战性的数据集上实现了显著的性能提升，同时表现出了对最新领域泛化方法的优异性。

    Jul, 2022

  • 针对隐私保护视觉转换器的高效微调与领域自适应

    提出了一种用于视觉变换器（ViT）的隐私保护深度神经网络（DNN）的新方法，该方法允许我们不仅训练模型和使用视觉受保护的图像进行测试，而且还能避免使用加密图像导致的性能下降，而传统方法无法避免图像加密的影响。通过领域适应方法，高效地对使用加密图像的 ViT 进行微调。实验证明，该方法在 CIFAR-10 和 ImageNet 数据集的图像分类任务中，在分类准确度方面优于传统方法。

    Jan, 2024

  • 使用双向编码器视觉变换器进行领域泛化

    本文旨在探讨如何在面对数据分布与所训练模型不同的情况下，通过使用视觉转换器架构进行域泛化，并取得了显著的验证和测试准确度提高，成功地克服了内部分布和超出分布数据之间的差距。

    Jul, 2023

  • 无监督域适应中 DIRT-T 方法的应用

    通过集群假设的视角，该研究提出了两个新的模型：结合领域对抗训练和对集群假设违反的惩罚的虚拟敌对领域自适应（VADA）模型以及采用自然梯度步骤进一步减小集群假设违反的 Decision-boundary 迭代细化训练与教师（DIRT-T）模型。广泛的实证结果表明，这两个模型的组合大大提高了数字，交通标志和 Wi-Fi 识别领域自适应基准的最新性能。

    Feb, 2018

  • 深度基础潜空间内的无监督领域自适应

    这篇研究论文分析了基于视觉 Transformer 的基础模型（如 ViT 或 Dino-V2）在无需精调特征的情况下解决问题的能力，通过对原型网络设置的实验，定量分析以及对决策过程的定性解释，我们展示了所提出的方法在无监督领域适应中的应用，并改进了现有基准模型，同时也揭示了该方法尚待解决的限制。

    Feb, 2024