无监督领域适应中的领域自适应扩散
本研究提出了一种信息理论方法来处理具有多个相似目标领域的无监督域适应问题,通过寻找一个共同的潜在空间,同时利用信息理论方法实现共享和私有信息的分离,并利用高效的优化算法完成从单一源到多个目标领域的自适应过程。
Oct, 2018
本文提出了一种新的深度学习架构,通过自动发现视觉数据中的潜在域并利用这些信息来学习强健的目标分类器来解决不带标签数据的目标域学习问题,在公共基准测试中表现优于现有的方法。
Mar, 2021
本文提出了一种基于伪领域生成的领域增强领域自适应方法(DADA),通过生成与目标域差异更小的伪领域,减小跨域偏差,进而增强知识转移过程并将标签方法应用于DADA模型中,结果表明该模型优秀。
Feb, 2022
深度学习在许多领域都展现出其超凡表现,但仅仅依靠大量标记数据来训练模型并不能保证其在面临目标域的分布变化时仍有出色的表现,无监督域自适应通过利用源领域标记数据和目标领域未标记数据来解决该问题,并已在自然图像处理、自然语言处理等领域取得了许多令人期待的结果,该文对该领域的方法和应用进行了系统比较,并强调了当前方法的不足及未来研究方向。
Aug, 2022
本文提出了一种基于扩散的目标采样器(DTS),使用分类条件信息生成高保真度与多样性伪目标样本,用于改进现有无监督领域自适应方法的传输性能。大量实验表明,该方法可以显著提高现有的无监督领域自适应方法的性能。
Mar, 2023
通过引入类别信息和领域分类器,DomAin-guided Conditional Diffusion Model (DACDM) 生成的样本有助于现有的无监督领域自适应方法更轻松地从源域传递到目标域,从而提高了转移性能。DACDM 在各种基准测试中的大量实验证明了其对现有无监督领域自适应方法性能的显著提升。
Sep, 2023
提出了一种用于Source-Free Domain Adaptation的新框架,使用在目标领域样本上训练的文本到图像扩散模型生成源数据,并使用Domain Adaptation技术将生成的源数据与目标领域数据对齐,从而显著提高目标领域模型的性能。
Oct, 2023
通过将源领域和目标领域的数据点映射到共享嵌入空间中,训练映射编码器使嵌入空间变得与领域无关,从而使在源领域上训练的分类器能够在目标领域上很好地泛化。为了进一步提高无监督领域适应 (UDA) 的性能,我们提出了一种降低源领域内部分布紧密度的技术,从而提高模型在目标领域中的泛化能力。相对于嵌入空间中不同类别的数据表示之间的间隔,我们提高了UDA模型的性能。为了使内部表示更紧密,我们将源领域的内部学习多模态分布估计为高斯混合模型 (GMM)。利用估计的GMM,我们增强了源领域中不同类别之间的分离性,从而减轻了领域转移的影响。我们提供了理论分析来支持我们的方法的优越性能。为了评估我们方法的有效性,我们在广泛使用的UDA基准数据集上进行了实证实验。结果表明我们的方法增强了模型的泛化能力,并超越了现有技术。
Jan, 2024
本文介绍了一种新的方法,利用扩散模型(Diffusion Models)对源无关域适应(Source-Free Domain Adaptation, SFDA)的一般化能力。我们提出的DM-SFDA方法包括对预训练的文本-图像扩散模型进行微调,以利用目标图像特征来指导扩散过程,生成源域图像。具体来说,预训练的扩散模型通过微调生成能够在预训练的源模型中最小化熵并最大化置信度的源样本。然后,我们应用已建立的无监督域适应技术来将生成的源图像与目标域数据对齐。我们通过包括Office-31、Office-Home和VisDA在内的多个数据集进行了全面实验验证。实验结果突出了SFDA性能的显著提升,展示了扩散模型在生成与上下文相关的域特定图像方面的潜力。
Feb, 2024