Nov, 2022

基于 CoNMix 的无源单目标和多目标域自适应

PDF
TL;DR该研究提出了 Source-free Multi-target Domain Adaptation 的新任务，并采用由 Consistency with Nuclear-Norm Maximization 和 MixUp knowledge distillation（CoNMix）组成的适应性框架作为解决此问题的方法。该框架利用目标伪标签改善目标适应性，并使用伪标签细化方法减少噪声伪标签。此外，我们还提出了 MixUp Knowledge Distillation（MKD）用于改进多个目标域的泛化能力，并展示了 Vision Transformer（VT）骨干具有更好的特征表示和分类可辨别性。最终，该框架在多种源自由 STDA 和 MTDA 设置的流行域适应数据集上实现了最先进的成果。
source-free multi-target domain adaptationconmixpseudo label refinementmixup knowledge distillationvision transformer
发现论文，激发创造
  • 跨域混合增强的半监督域适应

    这篇论文介绍了一种新的半监督领域适应方法，称为具有领域内混合和邻域扩展的跨域集成，以解决标签空间中的标签不匹配问题，并通过利用邻域扩展进一步提高自适应模型的性能。

    Jan, 2024

  • 使用 Mixup 训练改进无监督领域自适应

    本论文研究了无监督域适应问题，提出了使用 mixup 公式在领域之间强制应用训练约束，并引入特征级一致性正则化器来促进跨域约束，有条件混合和领域对抗学习，显著提高了图像分类和人类活动识别的重要任务的最新表现。

    Jan, 2020

  • 知识蒸馏实现的无监督多目标域自适应

    本文提出了一种新的无监督多目标域自适应方法，通过多教师知识蒸馏来训练 CNN，使其可以在多个目标领域上广义化。该方法通过逐步蒸馏目标域知识到一个共同的学生无直接学习域适应特征，同时保留每个目标（教师）的特异性以适应学生，通过在多项具有挑战性的 UDA 基准测试上的实证结果表明，我们提出的模型可以在多个目标域上提供较高水平的准确性。

    Jul, 2020

  • 基于伪目标域的多源无监督域自适应

    提出了一种新的多源域自适应方法 Pseudo Target for MDA (PTMDA)，采用敌对学习与度量约束将每组源和目标域映射到特定的子空间，并构造了一系列伪目标域进行训练以提高性能。此外，为提高深度神经网络的传递性，用有效的匹配规范化层代替传统批规范化层，给出理论分析和实验探究证明了该方法的有效性。

    Feb, 2022

  • 多源域自适应的专家混合模型

    本论文提出了一种用于多源无监督领域自适应的专家混合方法，旨在显式地捕获目标示例与不同源域之间的关系，以点到集度量为表达方式，通过元训练无监督地学习这个度量，并在情感分析和词性标注方面进行实验，证明了我们的方法始终优于多个基准线，并可以稳健地处理负迁移。

    Sep, 2018

  • SCMix：用于语义分割的开放复合领域自适应的随机复合混合

    应用 Stochastic Compound Mixing 方法进行开放式复合领域适应，通过降低源域与混合目标域之间的差异来改善模型泛化性能，这种方法在 OCDA 语义分割任务上实现了更低的经验风险，并与 SoTA 结果相比有显着的性能提升。

    May, 2024

  • 对比和混合：利用背景混合的时间对比视频域自适应

    本文介绍了 Contrast and Mix（CoMix）的新对比学习框架，旨在为无监督的视频领域适应学习具有判别不变性的特征表示。与现有方法依靠对抗学习进行特征对齐不同，我们利用时间对比学习通过最大化未标记视频在两个不同速度下的编码表示的相似性以及最小化不同速度下播放的不同视频的相似性来弥合领域差距，还利用背景混合提出了一种用于时间对比性损失的新型扩展，从而允许每个锚点附加附加正物，增加视频领域适应的语义分享。此外，我们还使用目标伪标签集成了有监督的对比性学习目标，以增强视频领域适应的潜在空间的可区分性。在几个基准数据集上进行的广泛实验验证了我们所提出的方法的优越性。

    Oct, 2021

  • 深层鸡尾酒网络：多源无监督领域自适应及类别偏移

    本文提出了一种利用深度混合网络来对抗多源之间的领域和类别差异的方法，通过多种对抗性学习来减小目标域和多源域的差异，并将伪标记的目标样本和源样本用于更新多源分类器和特征提取器。

    Mar, 2018

  • 多目标偏移源数据聚合

    本文提出了一种采用语义条件分布相似性来聚合多源领域的方法，同时在三种常用的场景下选择相关源的框架，并通过实验验证了该方法的有效性。

    May, 2021

  • 无监督域自适应的虚拟混合训练

    本文提出一种叫做 Virtual Mixup Training 的新方法，该方法可以将局部 Lipschitz 约束性应用到训练数据间距的区域中，不需要使用标签信息，适用于无监督域自适应。结果表明，VMT 显著提高了 VADA 在六个领域适应基准数据集上的性能，尤其是将 MNIST 适应到 SVHN 的挑战性任务中，VMT 可以将 VADA 的准确性提高 30% 以上。

    May, 2019