ICCVAug, 2023

领域特异性引导变形器以实现无来源领域适应

PDF
TL;DR在隐私导向的无源情况下，我们提出了一种使用视觉转换器进行领域适应的方法，通过构建领域可辨识输入（DRI），利用查询提取特定领域信息，并在统一模型中实现领域特异性和任务特异性的解耦和学习，实现了在单源、多源和多目标基准上的最先进性能。
domain adaptationdisentanglementvision transformersdomain-specificityprivacy-oriented source-free setting
发现论文，激发创造
  • 利用视觉变换器改善无源目标适应性，以削弱域表示图像

    该研究以无监督域自适应为主题，探索了如何利用关键元素来强化 Vision Transformers 在无源目标适应中的性能，通过引入域表示图像（DRIs）作为关键组件，提高了 Transformer 在领域泛化中的效率。

    Nov, 2023

  • 兼顾两种世界：面向领域的 Transformer 用于无监督领域自适应

    提出了一种基于 Domain-Oriented Transformer 的无监督域自适应方法，通过在不同的领域中聚焦于不同的特征空间进行特征对齐，并为每个领域创建一个特定的面向域的分类器，该方法在多个基准测试中取得了最先进的效果。

    Aug, 2022

  • 平衡辨识性和迁移性以实现无源域自适应

    在源 - 无源领域自适应（DA）场景下，本文提出了一种混合原始和对应的泛化样本的解决方案，用于提高领域的转移能力和保护隐私，在现有的无源 DA 方法上实现提高识别和转移的平衡，并在分类和语义分割任务上实现了最先进的性能，在单源和多源场景下均给出实验验证。

    Jun, 2022

  • 特定领域自对抗解缠

    本文提出了一种新的自解耦框架 (SAD) 以实现特定领域的适应。使用一个领域关键字创建器和自对抗正则化器，将潜在表示分解为特定领域和不变领域特征，从而减缓了领域内差距，并取得了在目标检测和语义分割等领域中超越现有最先进方法的一致改进。

    Aug, 2021

  • 基于 Transformer 的无源域自适应

    本研究提出了一种基于 Transformer 的通用转换框架 TransDA，通过将 Transformer 作为注意力机制注入卷积网络中并针对目标伪标签进行自监督知识蒸馏方法，将模型的注意力集中于目标域的对象区域，提高了模型的泛化能力，并在三个领域自适应任务中获得了最先进的结果。

    May, 2021

  • 基于 Transformer 的无源领域自适应中非因果因素的对齐

    我们提出了一种 Causality-enforcing Source-Free Transformer (C-SFTrans) 框架，通过对非因果因子进行对齐以实现因果因子对齐，我们发现视觉 transformers (ViTs) 在隐私保护的无源设置中发挥了重要作用，并在几个领域自适应基准中取得了最先进的结果。

    Nov, 2023

  • 利用领域特定特征增强领域泛化

    本文提出了一种新颖的理论框架 meta-Domain Specific-Domain Invariant（mDSDI），通过元学习框架优化是领域特定表示，并通过同时学习领域特定和领域不变特点，在潜在空间中区分特征，从而针对源域进行自适应，并在未知域上获得强大的泛化能力，实验证明这种方法在领域一般化中具有竞争力。

    Oct, 2021

  • 无监督域适应中 DIRT-T 方法的应用

    通过集群假设的视角，该研究提出了两个新的模型：结合领域对抗训练和对集群假设违反的惩罚的虚拟敌对领域自适应（VADA）模型以及采用自然梯度步骤进一步减小集群假设违反的 Decision-boundary 迭代细化训练与教师（DIRT-T）模型。广泛的实证结果表明，这两个模型的组合大大提高了数字，交通标志和 Wi-Fi 识别领域自适应基准的最新性能。

    Feb, 2018

  • 通用源自由域自适应

    该研究提出了一种新的两阶段学习过程，以实现无监督域适应并实现源自由部署。在采购阶段，通过利用现有的源数据，在新颖的生成分类器框架中增强了模型拒绝源外分布样本的能力；在部署阶段，通过使用命名为源相似度度量的新型实例级加权机制，提出了一个简单而有效的源自由自适应目标，以设计一个统一的自适应算法，该算法可在各种范畴差异下运作，并实现了卓越的域适应性能。

    Apr, 2020

  • 学习领域不变表示以多源迁移学习

    本研究探讨了多源领域自适应和领域泛化设置中的目标通用损失的上界和两种领域不变表示的定义，并研究了强制学习每个领域不变表示的优缺点和权衡，并通过实验来检查这些表示的权衡，探索了我们所开发的理论的其他有趣特性。

    Nov, 2021