源无关域自适应仅需少样本微调
我们介绍了一种源数据自由的领域自适应方法,使用预训练模型自学习来更新目标模型,通过基于自熵的准则选择可靠样本以定义类的原型,并用伪标签为每个目标样本分配标签以训练目标模型,最终得到比传统领域适应方法更好的结果。
Jul, 2020
本文提出了一种广义源自由域自适应(G-SFDA)的新域自适应范例,其中仅在自适应期间访问当前未标记的目标数据,该方法基于局部结构聚类(LSC)和稀疏域注意力(SDA)以保持源信息的同时为不同领域激活不同的特征通道。实验表明,本文所提出的方法的目标表现与现有域自适应(DA)和源自由域自适应(SFDA)方法相当或更好,并在VisDA上实现了最先进的性能(85.4%)。
Aug, 2021
这篇论文提出了一种基于全局平衡采样和多中心聚类的动态原型策略,用于在没有源数据的情况下自适应目标数据,并引入了一种动态标记策略以加入网络更新信息,在多项实验证明该策略显著提高了表示SFDA方法以产生了新的最先进结果。
Apr, 2022
本文提出了一种无监督领域自适应的方法——源自由(SFUDA),其中使用预先训练的源模型而不使用源数据来在未标记的目标域中获得高性能。提出一种新的样本自信度评分——联合模型数据结构(JMDS)评分,用于SFUDA中,它使用源和目标域知识,用作样本权重的JMDS分数,以及我们提出的Mixup变体的权重Mixup构成的CoWA-JMDS框架,该方法区分了样本的重要性。实验结果显示,JMDS分数表现优于现有的置信度分数,CoWA-JMDS在闭合、开放和部分集情景下均取得了最先进的性能。
Jun, 2022
本文探讨了一种实际的领域自适应任务,称为无源域自适应(SFUDA),在此任务中,源预训练模型在没有访问源数据的情况下适应于目标域。我们介绍了一种新的SFUDA范例Divide and Contrast(DaC),使用自适应对比学习框架,通过预测的置信度将目标数据分为类似源域和特定于目标域的样本,并针对每个组别进行调整目标,以在全局和局部层面上提高性能
Nov, 2022
本研究针对数据保护、存储和传输等实际场景中普遍存在的源数据访问限制,提供了一篇系统综述文章,介绍了最近提出的无源自适应方法,着重对白盒和黑盒方法进行分类,并详细讨论了各类方法中的挑战以及适用于无源数据的模型在提高泛化能力方面的流行技术和常用基准数据集。
Dec, 2022
以无监督域适应和无源自适应方法为研究对象,通过研究ImageNet与源域及目标域之间的相关性及ImageNet对目标风险的影响,发现现有方法存在的关键限制,并提出了一种新的框架TriDA,通过保留预训练数据集(即ImageNet)的语义结构来提升适应性能。实验证明,TriDA在各种无监督域适应和无源自适应评估中取得了最先进的性能。
Aug, 2023
无源无监督领域自适应(SFUDA)是一个具有挑战性的任务,模型需要在没有目标领域标签或源领域数据的情况下适应新领域。本文提出了一种新的方法,通过考虑每个样本的多个预测假设并研究每个假设的合理性来解决该问题。通过整合这些假设的理由,我们可以识别最有可能的正确假设,并将其作为伪标签集来支持半监督学习过程进行模型自适应。我们提出了一个三步自适应过程:模型预自适应、假设整合和半监督学习,以实现最佳性能。广泛的实验结果表明我们的方法在SFUDA任务中达到了最先进的性能,并可以轻松集成到现有方法中以改善其性能。
Feb, 2024
通过综合基准评估方法,本研究针对图像分类中的无源无监督领域自适应(SF-UDA)提供了一个全面的基准框架,旨在实现对SF-UDA方法中多个关键设计因素之间复杂关系的严格经验理解,并对多种SF-UDA技术进行了实证研究,评估它们在数据集上的一致性、对特定超参数的敏感性以及在不同主干架构下的适用性,强调了主干架构和预训练数据集选择对SF-UDA性能的重要性。
Feb, 2024
无源无监督域自适应的不确定性伪标签过滤适应(UPA)方法,通过自适应伪标签选择(APS)模块进行精确过滤,同时引入类感知对比学习(CACL)以降低伪标签噪声的记忆化,实现与最先进的方法相当的竞争性能。
Mar, 2024