Aug, 2023

领域特异性引导变形器以实现无来源领域适应

HTML
PDF
TL;DR在隐私导向的无源情况下，我们提出了一种使用视觉转换器进行领域适应的方法，通过构建领域可辨识输入（DRI），利用查询提取特定领域信息，并在统一模型中实现领域特异性和任务特异性的解耦和学习，实现了在单源、多源和多目标基准上的最先进性能。
发现论文，激发创造
  • DiDA：面向域自适应的解耦合成方法

    本文提出了一种利用解脱分析提高保持领域适应性能的方法，通过分别提取共同特征和特定领域特征，可以合成更多带有监督的目标域数据，从而提高领域适应性能。

    May, 2018

  • 在域内外泛化中平衡特异性和不变性的学习

    本研究提出了一种域特定掩码模型，旨在提高领域内和领域外的泛化性能，在PACS和DomainNet中实现与先前的方法竞争性能。

    Aug, 2020

  • 基于Transformer的多源域自适应

    研究了大型预训练转换模型在无监督多源域自适应中的效果，发现领域对抗性训练对其有影响，但对表现影响不大，同时混合专家方法则显著提高了表现并比较了几种混合函数，包括一种基于注意力的新混合方法。

    Sep, 2020

  • 基于Transformer的无源域自适应

    本研究提出了一种基于Transformer的通用转换框架TransDA，通过将Transformer作为注意力机制注入卷积网络中并针对目标伪标签进行自监督知识蒸馏方法，将模型的注意力集中于目标域的对象区域，提高了模型的泛化能力，并在三个领域自适应任务中获得了最先进的结果。

    May, 2021

  • 特定领域自对抗解缠

    本文提出了一种新的自解耦框架(SAD)以实现特定领域的适应。使用一个领域关键字创建器和自对抗正则化器，将潜在表示分解为特定领域和不变领域特征，从而减缓了领域内差距，并取得了在目标检测和语义分割等领域中超越现有最先进方法的一致改进。

    Aug, 2021

  • 平衡辨识性和迁移性以实现无源域自适应

    在源-无源领域自适应（DA）场景下，本文提出了一种混合原始和对应的泛化样本的解决方案，用于提高领域的转移能力和保护隐私，在现有的无源 DA 方法上实现提高识别和转移的平衡，并在分类和语义分割任务上实现了最先进的性能，在单源和多源场景下均给出实验验证。

    Jun, 2022

  • 兼顾两种世界：面向领域的Transformer用于无监督领域自适应

    提出了一种基于Domain-Oriented Transformer的无监督域自适应方法，通过在不同的领域中聚焦于不同的特征空间进行特征对齐，并为每个领域创建一个特定的面向域的分类器，该方法在多个基准测试中取得了最先进的效果。

    Aug, 2022

  • 利用视觉变换器改善无源目标适应性，以削弱域表示图像

    该研究以无监督域自适应为主题，探索了如何利用关键元素来强化Vision Transformers在无源目标适应中的性能，通过引入域表示图像（DRIs）作为关键组件，提高了Transformer在领域泛化中的效率。

    Nov, 2023

  • 基于Transformer的无源领域自适应中非因果因素的对齐

    我们提出了一种Causality-enforcing Source-Free Transformer (C-SFTrans)框架，通过对非因果因子进行对齐以实现因果因子对齐，我们发现视觉transformers (ViTs)在隐私保护的无源设置中发挥了重要作用，并在几个领域自适应基准中取得了最先进的结果。

    Nov, 2023

  • 视觉Transformer在领域适应与泛化中的应用：鲁棒性研究

    本文研究了视觉Transformer在领域适应和领域泛化方案中的应用，包括特征级、实例级、模型级以及混合方法的适应，以及多领域学习、元学习、正则化技术和数据增强策略的领域泛化方法，总结了各种与分布变化相关的策略，并提供了有价值的洞见和综合表格，展示了视觉Transformer在处理分布变化方面的多样性和实用性。

    Apr, 2024