Feb, 2024

无源领域适应与扩散指导的源数据生成

PDF
TL;DR本文介绍了一种新的方法，利用扩散模型 (Diffusion Models) 对源无关域适应 (Source-Free Domain Adaptation, SFDA) 的一般化能力。我们提出的 DM-SFDA 方法包括对预训练的文本 - 图像扩散模型进行微调，以利用目标图像特征来指导扩散过程，生成源域图像。具体来说，预训练的扩散模型通过微调生成能够在预训练的源模型中最小化熵并最大化置信度的源样本。然后，我们应用已建立的无监督域适应技术来将生成的源图像与目标域数据对齐。我们通过包括 Office-31、Office-Home 和 VisDA 在内的多个数据集进行了全面实验验证。实验结果突出了 SFDA 性能的显著提升，展示了扩散模型在生成与上下文相关的域特定图像方面的潜力。
diffusion modelssource-free domain adaptationdm-sfdafine-tuningunsupervised domain adaptation
发现论文，激发创造
  • 透过文本到图像扩散实现跨领域：一种无源领域自适应方法

    提出了一种用于 Source-Free Domain Adaptation 的新框架，使用在目标领域样本上训练的文本到图像扩散模型生成源数据，并使用 Domain Adaptation 技术将生成的源数据与目标领域数据对齐，从而显著提高目标领域模型的性能。

    Oct, 2023

  • 基于图像翻译的无源域适配

    本文研究了源自由的领域自适应问题，提出了使用图像转换方法将目标图像的风格转换为未见过的源图像的方法，从而使得使用预训练模型对转换后的图像进行分类可以得到更高的准确率。

    Aug, 2020

  • 泛化的零样本域自适应

    本文提出了一种广义源自由域自适应（G-SFDA）的新域自适应范例，其中仅在自适应期间访问当前未标记的目标数据，该方法基于局部结构聚类（LSC）和稀疏域注意力（SDA）以保持源信息的同时为不同领域激活不同的特征通道。实验表明，本文所提出的方法的目标表现与现有域自适应（DA）和源自由域自适应（SFDA）方法相当或更好，并在 VisDA 上实现了最先进的性能（85.4％）。

    Aug, 2021

  • 由视觉和视觉语言预训练引导的无源域自适应

    灵活的源免领域自适应（SFDA）框架，通过融合预训练网络，提升了适应性能，并能成功整合现有的 SFDA 方法。

    May, 2024

  • 基于分布估计的无源领域自适应

    本文提出了基于源分布估计方法的 Source-Free Domain Adaptation 模型 SFDA-DE，采用球形 k 均值聚类生成目标数据的假伪标签，并利用目标数据和锚点学习源域的类条件特征分布，通过最小化交叉适应损失函数来对齐两个数据域，在多个 DA 基准测试中实现了最先进的性能表现，并且优于需要大量源数据的传统 DA 方法。

    Apr, 2022

  • 基于 Transformer 的无源域自适应

    本研究提出了一种基于 Transformer 的通用转换框架 TransDA，通过将 Transformer 作为注意力机制注入卷积网络中并针对目标伪标签进行自监督知识蒸馏方法，将模型的注意力集中于目标域的对象区域，提高了模型的泛化能力，并在三个领域自适应任务中获得了最先进的结果。

    May, 2021

  • 基于不确定性感知自适应蒸馏的多源无域自适应

    提出一种名为 UAD 的简单而有效方法，用于医学领域中的多源免监督域适应，通过模型层和实例层的知识蒸馏，实现高性能的目标领域模型，验证了其在两个图像诊断基准数据集上的普适性和显著性能提升。

    Feb, 2024

  • 基于冻结多模式基础模型的无源域自适应

    源无关领域适应 (SFDA) 旨在适应一个源模型到目标领域，只能访问标记有监督源领域的预先训练的模型和无标记目标培训数据。我们首次探索了富含异构知识的现成视觉 - 语言多模态模型 (例如 CLIP) 的潜力，提出了一种新颖的蒸馏多模态基础模型 (DIFO) 方法来解决现有方法中不可避免的错误问题，并通过两个步骤的交替来使其任务特定化，实验结果表明 DIFO 显著优于现有的替代方法。

    Nov, 2023

  • 基于不确定性引导的无源域自适应

    该研究提出了一种基于概率模型的源自由领域自适应方法，通过量化源模型预测中的不确定性来指导目标适应，以对抗域漂移和缺乏源数据的问题，并且相比于传统的源自由领域自适应方法，该方法计算轻量、与源训练和目标适应相独立。

    Aug, 2022

  • SF (DA)$^2$: 无源领域适应的数据增强视角

    通过数据增强技术，我们提出了一种名为 SF (DA)^2 的新方法，它克服了先前能提出的源无关域适应方法在类保持变换和内存、计算需求等方面的挑战，并在 SFDA 场景中展现了卓越的适应性能。

    Mar, 2024