连接，而非坍塌：解释对比学习在无监督领域适应中的应用

ICMLApr, 2022

连接，而非坍塌：解释对比学习在无监督领域适应中的应用

Connect, Not Collapse: Explaining Contrastive Learning for Unsupervised Domain Adaptation

Kendrick Shen, Robbie Jones, Ananya Kumar, Sang Michael Xie, Jeff Z. HaoChen...

TL;DR本文针对无监督域适应问题，提出了一种基于对比度预训练的分类器学习方法，该方法可以学习到跨领域的分类特征而无需在领域间建立不变特征映射，并在基准视觉数据集上获得了验证。

Abstract

We consider unsupervised domain adaptation (UDA), where labeled data from a source domain (e.g., photographs) and unlabeled data from a target domain (e.g., sketches) are used to learn a classifier for the target domain. Conventional UDA methods (e.g., domain adversarial training) lear

unsupervised domain adaptation contrastive pre-training generalization domain-invariant features benchmark vision datasets

发现论文，激发创造

跨域对比学习用于无监督域自适应

该论文提出了一种在无监督领域适应的情况下，采用自我监督学习的对比方法以减少培训和测试集之间的领域差异，实现了简单而有效的领域对齐框架 CDCL，并使用伪标签进行评估，这种方法可以应用于无需数据源的情况并在图像分类方面取得了最先进的性能。

Jun, 2021

领域混淆对比学习用于无监督领域自适应

本文介绍了一种自主学习方法的无监督域自适应技术，即 Domain Confused Contrastive Learning（DCCL），旨在通过域拼图来构建源域和目标域之间的桥梁，并在适应后保留有区分性的表示。此外，作者还探讨了在进行其他数据增强时，对比学习是否有助于 UDA。实验表明，DCCL 的表现显著优于基线。

Jul, 2022

无监督域自适应时间序列的对比学习

本文提出了一种名为 CLUDA 的新颖的时序数据无监督领域适应框架，旨在使用对比学习框架来学习多变量时间序列的语境表示，并通过自定义最近邻对比学习来捕获源域和目标域之间的上下文表示变化，从而实现了在时间序列领域中学习域不变上下文表示的方法，并可用于对多种时间序列数据集进行评估以证明其有效性和卓越性能。

Jun, 2022

CLDA：对比学习用于半监督领域自适应

本文提出了一种简单的对比学习框架，用于半监督域自适应，以构建域不变的预测模型，在三个领域适应基准数据集上取得最先进的性能表现。

Jun, 2021

自监督对比学习与自训练在语义分割的无监督领域自适应中的应用

本文提出了一种基于对比学习和自我训练的方法，该方法可以很好地应用于不同领域的实例进行语义分割，可以将语义类别在跨域上进行对齐，从而达到更好的结果。

May, 2021

无监督领域适应的对比适应网络

本文章提出了一种基于对比适应性网络 (CAN) 的无监督域自适应方法来解决类别信息不足导致的领域差异偏差问题，并证明 CAN 在两个真实场景 Office-31 和 VisDA-2017 上表现优异，具有更好的特征鉴别能力。

Jan, 2019

深度无监督域自适应：近期进展和展望综述

深度学习在许多领域都展现出其超凡表现，但仅仅依靠大量标记数据来训练模型并不能保证其在面临目标域的分布变化时仍有出色的表现，无监督域自适应通过利用源领域标记数据和目标领域未标记数据来解决该问题，并已在自然图像处理、自然语言处理等领域取得了许多令人期待的结果，该文对该领域的方法和应用进行了系统比较，并强调了当前方法的不足及未来研究方向。

Aug, 2022

基于提示学习的领域适应

本文提出了一种新颖的无监督领域自适应学习范式 —— 通过提示学习的领域自适应 (DAPL)，通过嵌入域信息和利用预训练的视觉 - 语言模型进行分类，此方法在多个领域的基准测试数据上表现优异，并且训练效率高、易于实现。

Feb, 2022

简化版神经网络无监督域自适应

本文研究了无监督领域自适应的方法，使用神经网络学习表示来预测重要特征的子集，并探讨了联合训练表示和任务学习者、现有枢轴选择方法的重要性。

May, 2019

无监督深度域自适应中的潜在域推断

本文提出了一种新的深度学习架构，通过自动发现视觉数据中的潜在域并利用这些信息来学习强健的目标分类器来解决不带标签数据的目标域学习问题，在公共基准测试中表现优于现有的方法。

Mar, 2021