透过文本到图像扩散实现跨领域:一种无源领域自适应方法
我们介绍了一种源数据自由的领域自适应方法,使用预训练模型自学习来更新目标模型,通过基于自熵的准则选择可靠样本以定义类的原型,并用伪标签为每个目标样本分配标签以训练目标模型,最终得到比传统领域适应方法更好的结果。
Jul, 2020
本文研究了源自由的领域自适应问题,提出了使用图像转换方法将目标图像的风格转换为未见过的源图像的方法,从而使得使用预训练模型对转换后的图像进行分类可以得到更高的准确率。
Aug, 2020
本文提出了一种基于伪源域的方法,通过生成和扩充伪源域,引入四种新的基于伪标签的策略 loss 进行分布对齐,并在伪源域和剩余目标域之间引入一个域对抗损失,以减少分布漂移,从而有效地解决了无监督域自适应的问题。
Sep, 2021
本文提出了基于源分布估计方法的 Source-Free Domain Adaptation 模型 SFDA-DE,采用球形 k 均值聚类生成目标数据的假伪标签,并利用目标数据和锚点学习源域的类条件特征分布,通过最小化交叉适应损失函数来对齐两个数据域,在多个 DA 基准测试中实现了最先进的性能表现,并且优于需要大量源数据的传统 DA 方法。
Apr, 2022
本文研究深度学习中前馈源自适应的应用及其改进,通过交叉关注机制自适应目标数据集,探索自动化实例选取提升性能,实验表明我们提出的框架能显著改进现有方法。
Jul, 2022
本研究针对数据保护、存储和传输等实际场景中普遍存在的源数据访问限制,提供了一篇系统综述文章,介绍了最近提出的无源自适应方法,着重对白盒和黑盒方法进行分类,并详细讨论了各类方法中的挑战以及适用于无源数据的模型在提高泛化能力方面的流行技术和常用基准数据集。
Dec, 2022
从服务角度出发,提出了一个新颖的问题场景,称为 Three-Free Domain Adaptation(TFDA),解决了多源领域适应中训练依赖先前领域信息、同时需要源和目标数据集的问题;通过 FREEDOM 框架,结合生成模型和分类模型,实现了在没有领域信息的情况下,将源类别分布与目标类别匹配,从而取得了与最先进方法相媲美甚至优于其的性能,并降低了目标端的模型大小。
Jul, 2023
提出一种新颖的领域自适应扩散(DAD)模块和互学习策略(MLS),通过将源域数据逐渐转化为目标域数据并使分类模型在领域转换过程中学习,成功将领域适应的挑战分解为多个小领域间隙并逐步增强分类模型的能力,从而在三个广泛使用的无监督领域自适应数据集上大幅优于现有最先进方法。
Aug, 2023
通过使用现代的文本到图像扩散模型,利用生成的合成图像作为源数据的替代,以及利用域自适应的方法来传输以任务为导向的图像分类器中的知识,我们证明了使用一种生成模型和相应的目标数据可以适应世界上的任何事物。
Oct, 2023
本文介绍了一种新的方法,利用扩散模型(Diffusion Models)对源无关域适应(Source-Free Domain Adaptation, SFDA)的一般化能力。我们提出的DM-SFDA方法包括对预训练的文本-图像扩散模型进行微调,以利用目标图像特征来指导扩散过程,生成源域图像。具体来说,预训练的扩散模型通过微调生成能够在预训练的源模型中最小化熵并最大化置信度的源样本。然后,我们应用已建立的无监督域适应技术来将生成的源图像与目标域数据对齐。我们通过包括Office-31、Office-Home和VisDA在内的多个数据集进行了全面实验验证。实验结果突出了SFDA性能的显著提升,展示了扩散模型在生成与上下文相关的域特定图像方面的潜力。
Feb, 2024