ICMLApr, 2022

渐进式领域适应的理解：改进分析、最优路径及其它

PDF
TL;DR本文提出 Gradual Self-Training 算法，通过逐步适应介于源域和目标域之间的中间域，使得在目标域上的泛化误差得到大幅度改善，在更为宽松的假设条件下给出了推导的新的上界，该上界只在 T 上线性地，加性地依赖于一系列基础参数，其中包括平均分布距离，不仅意味着最优的中间域数量存在，还暗示了一种最优的构建方式，同时在多个数据集上验证了该理论可行性。
unsupervised domain adaptationgradual domain adaptationintermediate domainsgeneralization bounddistributional distance
发现论文，激发创造
  • 渐进领域适应：理论与算法

    我们提出了一种算法框架 GOAT，可在数据相关的方式下生成中间领域，以改进标准的逐渐领域自适应（GDA）的性能，显著扩大 GDA 的实际应用场景。

    Oct, 2023

  • 无需索引中间域的渐进式领域自适应

    本研究提出了一种新的逐步领域自适应方法，称为 Intermediate DOmain Labeler（IDOL），应用了粗到细的框架，通过逐步领域鉴别器训练和循环一致性损失函数，发现中间的领域序列，并提升了自适应性能。

    Jul, 2022

  • 了解逐步领域适应的自训练

    论文研究了机器学习系统对随时间变化而演化的数据分布的适应性，在渐进领域适应的情况下，证明了使用自我训练的非空界，通过正则化和标签增强来提高算法精度，特别是对于 Wasserstein-infinity 距离较小的转化数据和真实肖像数据集。

    Feb, 2020

  • 逐步扩展源领域的无监督领域自适应

    通过渐进性的源领域扩展算法，将目标数据集作为伪源样本，从而通过多次重新初始化网络权重的训练，提取先前运行得出的知识，促进领域之间的对齐，改善无监督领域适应的准确性。

    Nov, 2023

  • 广义领域自适应

    本文提出一种通用的域自适应问题表示，称为广义域自适应 (GDA) ，涵盖了主要变量作为其特殊情况，该广义化引出一种新的具有挑战性的设置，其中现有的方法失败了。 我们提出了一种新颖的方法，其关键是无监督的类破坏学习，这使得学习类不变表示和域对抗分类器无需使用任何领域标签，使用 3 个基准数据集的大量实验证明了我们的方法在新设置下优于现有的 UDA 方法，在现有 UDA 变量中也很有竞争力。

    Jun, 2021

  • 领域增强的域自适应

    本文提出了一种基于伪领域生成的领域增强领域自适应方法（DADA），通过生成与目标域差异更小的伪领域，减小跨域偏差，进而增强知识转移过程并将标签方法应用于 DADA 模型中，结果表明该模型优秀。

    Feb, 2022

  • 深度无监督域自适应：近期进展和展望综述

    深度学习在许多领域都展现出其超凡表现，但仅仅依靠大量标记数据来训练模型并不能保证其在面临目标域的分布变化时仍有出色的表现，无监督域自适应通过利用源领域标记数据和目标领域未标记数据来解决该问题，并已在自然图像处理、自然语言处理等领域取得了许多令人期待的结果，该文对该领域的方法和应用进行了系统比较，并强调了当前方法的不足及未来研究方向。

    Aug, 2022

  • 无监督领域自适应的信息论分析

    本文使用信息理论工具来分析无监督域适应（UDA）中的泛化误差。 为两种泛化误差提供新的上界，第一种措施评估目标域和源域的总体风险之间的差距，第二种措施评估目标领域的总体风险和源域的经验风险之间的差距。 本文提出两种简单的技术来改善 UDA 中的泛化性能，并在实验中验证了这些技术。

    Oct, 2022

  • 无监督领域适应中的领域自适应扩散

    提出一种新颖的领域自适应扩散（DAD）模块和互学习策略（MLS），通过将源域数据逐渐转化为目标域数据并使分类模型在领域转换过程中学习，成功将领域适应的挑战分解为多个小领域间隙并逐步增强分类模型的能力，从而在三个广泛使用的无监督领域自适应数据集上大幅优于现有最先进方法。

    Aug, 2023

  • 逐渐消失的原型网络在无监督领域适应中的差距

    我们提出了一种高效的无监督领域自适应框架 (GVG-PN)，通过全局和局部角度实现了转移学习，以解决无监督领域自适应模型在对齐过程中分布塌缩的问题，并且能够清晰地胜过目前最先进的模型。

    May, 2024