CDTrans: 跨领域 Transformer 方法的无监督领域自适应

Sep, 2021

CDTrans: 跨领域 Transformer 方法的无监督领域自适应

CDTrans: Cross-domain Transformer for Unsupervised Domain Adaptation

Tongkun Xu, Weihua Chen, Pichao Wang, Fan Wang, Hao Li...

TL;DR本文提出了一种基于 Transformer 的无监督领域自适应方法 CDTrans，采用双向中心感知标签算法生成准确的伪标签，采用权值共享的三支架 Transformer 框架对源 / 目标特征学习和源目标领域对齐进行自关注和交叉关注，实现了同时学习区分性领域 - 特定和领域不变表示的显式设计，实验证明该方法在公共数据集上的表现优于现有方法。

Abstract

unsupervised domain adaptation (UDA) aims to transfer knowledge learned from a labeled source domain to a different unlabeled target domain. Most existing UDA methods focus on learning domain-invariant feature representation, either from the domain level or category level, using convol

unsupervised domain adaptation transformer pseudo labels source/target feature learning cross-domain transformer

发现论文，激发创造

跨域对比学习用于无监督域自适应

该论文提出了一种在无监督领域适应的情况下，采用自我监督学习的对比方法以减少培训和测试集之间的领域差异，实现了简单而有效的领域对齐框架 CDCL，并使用伪标签进行评估，这种方法可以应用于无需数据源的情况并在图像分类方面取得了最先进的性能。

Jun, 2021

兼顾两种世界：面向领域的 Transformer 用于无监督领域自适应

提出了一种基于 Domain-Oriented Transformer 的无监督域自适应方法，通过在不同的领域中聚焦于不同的特征空间进行特征对齐，并为每个领域创建一个特定的面向域的分类器，该方法在多个基准测试中取得了最先进的效果。

Aug, 2022

深度对抗式注意力对齐：无监督域自适应的优势 —— 以目标期望最大化为例

本文提出了一种使用注意力对齐和后验标签分布估计的卷积神经网络自适应无监督域适应的方法，在 Office-31 数据集上超过其他最先进的方法 2.6％。

Jan, 2018

跨域梯度差异最小化用于无监督域自适应

本文提出了一种跨域梯度分歧最小化方法，使用聚类自监督学习获得目标伪标签，显式地最小化源样本和目标样本生成的梯度差异，以提高目标样本的准确性，实验证明该方法优于许多先前的最新技术

Jun, 2021

多领域判别器与自适应自训练的无监督领域自适应

本文提出一种基于无监督域自适应（UDA）的方法，针对城市场景的语义分割应用领域，将深度神经网络从合成数据源，适应到真实数据源上，通过引入对抗模块和自训练策略实现充分对齐两个数据分布，模块化的架构使得模型适用范围更广，实验结果表明该方法的有效性和稳健性。

Apr, 2020

无监督深度域自适应中的潜在域推断

本文提出了一种新的深度学习架构，通过自动发现视觉数据中的潜在域并利用这些信息来学习强健的目标分类器来解决不带标签数据的目标域学习问题，在公共基准测试中表现优于现有的方法。

Mar, 2021

简化版神经网络无监督域自适应

本文研究了无监督领域自适应的方法，使用神经网络学习表示来预测重要特征的子集，并探讨了联合训练表示和任务学习者、现有枢轴选择方法的重要性。

May, 2019

一种新的双向无监督域自适应分割框架

本文介绍了一种基于 “分离表达学习” 的双向无监督领域自适应（BiUDA）框架，来提高医疗图像分析中深度学习模型在不同领域间迁移性能，实验结果显示该框架优于当前先进的方法。

Aug, 2021

无监督领域自适应的多源注意力

该论文探讨了如何选择多个源来进行领域适应，使用注意力学习算法解决了多源无监督领域适应中的源选择难题，并在情感分类基准测试中表现出更好的性能。

Apr, 2020

TransferAttn：可传递引导的注意力是视频领域自适应的必需

使用转换器图层作为特征编码器，将空间和时间的可传递性关系融入到注意机制中，提出了 TransferAttn 框架以适应不同骨干的跨领域知识，通过改变自注意机制为可传递性注意机制，引入 DTAB 模块来增加 ViT 的可传递性，验证了 TransferAttn 和 DTAB 在多个数据集和不同骨干下的有效性。

Jul, 2024