Jul, 2020

渐变正则化对比学习用于连续领域适应

PDF
TL;DR研究 AI 模型在连续领域适应中所遇到的领域转换和灾难性遗忘等问题，并提出了基于 Gradient Regularized Contrastive Learning 的方法来解决这些问题，实验结果表明该方法在 Digits, DomainNet and Office-Caltech 基准测试中表现优越。
continual domain adaptationgradient regularizationcontrastive learningdomain shiftscatastrophic forgetting
发现论文，激发创造
  • 渐变正则化对比学习，用于连续领域适应

    本研究旨在解决深度神经网络在动态环境下机器学习算法中的持续领域适应问题。为此，我们提出了 Gradient Regularized Contrastive Learning (GRCL) 并在 Digits、DomainNet 和 Office-Caltech 基准测试中证明了其在比较其他最新方法时的强大性能。

    Mar, 2021

  • 无监督连续领域漂移学习中的互补域适应和泛化

    本文提出了一种模型无关的、能够将适应和泛化结合起来的学习方法 CoDAG，主要解决无监督连续域漂移学习的三个问题，即适应当前域、泛化到看不见的域，以及防止遗忘先前看到的域，并在多个基准数据集上展示了其有效性和鲁棒性。

    Mar, 2023

  • 对比领域自适应

    本文探讨了将对比自监督学习扩展到领域适应上述情形的方法，通过无标签的正负样本比较学习，进一步识别和排除潜在可能误判的负面效应，以提高领域适应任务中的性能表现。

    Mar, 2021

  • 跨领域连续学习的 CLAMP 方法

    我们在这篇文章中提出了一种名为 CLAMP 的跨领域持续学习方法，它集成了一种类感知对抗领域自适应策略，以在复杂变化环境中实现单一模型的部署，避免了额外的标注成本，并且在理论分析和大量实验证明中取得了至少 10% 的显著性优于现有基准算法的效果。

    May, 2024

  • 双头辨别器的持续领域对抗适应

    在持续设置中的领域对抗适应存在一定挑战，由于无法访问以前的源域数据。与持续学习的广泛研究不同，仅仅使用少量存储的源域数据无法有效地完成对抗适应任务，这是内存回放方法中的常见设置。本文提出了一种双头鉴别器算法，通过引入一个仅在源学习阶段训练的仅源域鉴别器，证明了预训练的仅源域鉴别器的引入可以减少源域方面的实证估计误差。进一步的实验表明，在现有的领域适应基准上，我们提出的算法在所有目标领域适应任务的各个类别上实现了超过 2% 的改进，同时显着减轻了对源域的遗忘。

    Feb, 2024

  • 语义分割的无监督对比域自适应

    通过对比学习实现特征对齐，提出了一种跨领域适应的标签扩展方法，结果表明，我们的方法在 Cityscapes 数据集上的表现始终优于最先进的方法。

    Apr, 2022

  • 增量式对抗性领域自适应技术在不断变化环境中的应用

    通过敌对性劫持方法和生成式对抗网络，实现增量自适应学习，从而改进模型对环境变化的适应，实验证明该方法比直接单步对齐方法更优，在移动机器人等应用场景中有更好的适用性。

    Dec, 2017

  • 跨领域连续学习

    本研究提出了一种名为交叉领域连续学习（CDCL）的新方法，在一个紧凑的卷积网络中结合了跨任务关注机制，实现了对先前任务特征的对齐，并在相关领域之间进行了无监督的交叉领域学习（UDA）。通过使用一种任务内特定的伪标签方法，确保了有标签和无标签样本的准确输入对，从而增强了学习过程。本方法在公开的 UDA 数据集上进行了广泛实验，显示出在交叉领域连续学习挑战上的良好性能。此外，本研究提出了增量思想，为该领域的进展做出了贡献。

    Feb, 2024

  • 深入研究连续领域自适应

    本文提出了连续域自适应（CDA）问题，并提出了一种新颖的方法作为 CDA 基线。该方法通过交替训练策略、连续性约束和域特定队列等手段，在多个域之间降低差异性并泛化到未见目标域，从而在 CDA 问题中实现了最优性能。

    Aug, 2022

  • 通过交叉梯度训练实现领域间泛化

    CROSSGRAD 是一种使用多领域培训数据跨域泛化的方法，并且不需要适应阶段，使用基于领域引导扰动的数据增强，可以更好地泛化并提供比领域对抗训练更稳定和准确的方法。

    Apr, 2018