Nov, 2023

基于冻结多模式基础模型的无源域自适应

PDF
TL;DR源无关领域适应 (SFDA) 旨在适应一个源模型到目标领域，只能访问标记有监督源领域的预先训练的模型和无标记目标培训数据。我们首次探索了富含异构知识的现成视觉 - 语言多模态模型 (例如 CLIP) 的潜力，提出了一种新颖的蒸馏多模态基础模型 (DIFO) 方法来解决现有方法中不可避免的错误问题，并通过两个步骤的交替来使其任务特定化，实验结果表明 DIFO 显著优于现有的替代方法。
source-free domain adaptationunlabeled target training dataoff-the-shelf vision-language multimodal modelsdistilling multimodal foundation modelstate-of-the-art alternatives
发现论文，激发创造
  • 由视觉和视觉语言预训练引导的无源域自适应

    灵活的源免领域自适应（SFDA）框架，通过融合预训练网络，提升了适应性能，并能成功整合现有的 SFDA 方法。

    May, 2024

  • 透过文本到图像扩散实现跨领域：一种无源领域自适应方法

    提出了一种用于 Source-Free Domain Adaptation 的新框架，使用在目标领域样本上训练的文本到图像扩散模型生成源数据，并使用 Domain Adaptation 技术将生成的源数据与目标领域数据对齐，从而显著提高目标领域模型的性能。

    Oct, 2023

  • 基于 MLLM 推动的课程学习增强无源领域适应

    提出了可靠性为基础的课程学习（RCL）框架，通过伪标记在无源数据情况下，逐步利用目标领域的无标记数据，并在多个 SFDA 基准测试上取得了最先进的性能，提高了适应性和鲁棒性。

    May, 2024

  • 基于图像翻译的无源域适配

    本文研究了源自由的领域自适应问题，提出了使用图像转换方法将目标图像的风格转换为未见过的源图像的方法，从而使得使用预训练模型对转换后的图像进行分类可以得到更高的准确率。

    Aug, 2020

  • 无源领域自适应的代理去噪

    提出一种基于代理去噪的源无关领域适应方法，通过利用大视觉 - 语言（ViL）模型来纠正预测，达到在潜在的领域无关空间中促进适应过程的目的。实验证明该方法在常规闭集、挑战性开集、部分集和广义 SFDA 设置下明显优于现有的技术。

    Jun, 2024

  • 基于分布估计的无源领域自适应

    本文提出了基于源分布估计方法的 Source-Free Domain Adaptation 模型 SFDA-DE，采用球形 k 均值聚类生成目标数据的假伪标签，并利用目标数据和锚点学习源域的类条件特征分布，通过最小化交叉适应损失函数来对齐两个数据域，在多个 DA 基准测试中实现了最先进的性能表现，并且优于需要大量源数据的传统 DA 方法。

    Apr, 2022

  • 泛化的零样本域自适应

    本文提出了一种广义源自由域自适应（G-SFDA）的新域自适应范例，其中仅在自适应期间访问当前未标记的目标数据，该方法基于局部结构聚类（LSC）和稀疏域注意力（SDA）以保持源信息的同时为不同领域激活不同的特征通道。实验表明，本文所提出的方法的目标表现与现有域自适应（DA）和源自由域自适应（SFDA）方法相当或更好，并在 VisDA 上实现了最先进的性能（85.4％）。

    Aug, 2021

  • 统一无源领域适应

    统一的无源领域适应问题中，通过采用潜在因果因素发现方法（LCFD）和预训练的视觉 - 语言模型（如 CLIP），可以有效提高学习模型对领域变化的可靠性和鲁棒性，并在不同的无源领域适应设置和无源领域外泛化上取得了新的最先进结果。

    Mar, 2024

  • 无源领域适应与扩散指导的源数据生成

    本文介绍了一种新的方法，利用扩散模型 (Diffusion Models) 对源无关域适应 (Source-Free Domain Adaptation, SFDA) 的一般化能力。我们提出的 DM-SFDA 方法包括对预训练的文本 - 图像扩散模型进行微调，以利用目标图像特征来指导扩散过程，生成源域图像。具体来说，预训练的扩散模型通过微调生成能够在预训练的源模型中最小化熵并最大化置信度的源样本。然后，我们应用已建立的无监督域适应技术来将生成的源图像与目标域数据对齐。我们通过包括 Office-31、Office-Home 和 VisDA 在内的多个数据集进行了全面实验验证。实验结果突出了 SFDA 性能的显著提升，展示了扩散模型在生成与上下文相关的域特定图像方面的潜力。

    Feb, 2024

  • 基于不确定性感知自适应蒸馏的多源无域自适应

    提出一种名为 UAD 的简单而有效方法，用于医学领域中的多源免监督域适应，通过模型层和实例层的知识蒸馏，实现高性能的目标领域模型，验证了其在两个图像诊断基准数据集上的普适性和显著性能提升。

    Feb, 2024