基于基础模型的通用领域适应
该论文提出了基于领域自适应的跨域分类问题,通过联合子空间的学习,使用有标签样本辅助实现跨域特征投影不变性,并结合了一种监督的局部保持投影(SLPP)技术,同时在无监督和零样本学习条件下,在三个跨域自适应基准数据集上实现了最先进的结果。
Mar, 2019
本文综述了最新的单源深度无监督域适应方法,主要集中在视觉任务中,并讨论了未来研究的新视角。首先介绍了不同领域适应策略的定义和现有基准数据集的描述,然后总结和比较了不同类别的单源无监督域适应方法,包括基于差异性的方法,对抗式鉴别方法,对抗式生成方法和自监督方法,并探讨了未来的研究方向、挑战和可能的解决方案。
Sep, 2020
本文提出一种新的任务,称为无监督域扩展(UDE),在此任务中,我们扩展了无监督域自适应(UDA)方法,并引入知识蒸馏域扩展(KDDE)作为UDE任务的一般方法。我们的研究表明,KDDE比四个竞争基线更优秀,同时在源域和目标域上保持高性能。
Apr, 2021
该研究提出了一种基于词袋模型的框架,通过学习中层的词汇原型以及词频直方图进行分类,从而避免了负迁移问题,并在三个常见的领域自适应与开放领域自适应识别基准测试中取得了最优表现。
Oct, 2022
本文提出了一个名为“不清晰统一域适应”的新颖场景,以应对源域中存在噪声数据且目标域中存在未知类别分布的情况。文章将多标头卷积神经网络作为解决该场景下在同一模型中同时解决存在噪声数据、未知类别与源域/目标域分布不同等挑战的方法,并在多个场景下验证了该方法的有效性和优越性
Apr, 2023
无监督域自适应对标记数据集域与无标记数据集域之间的知识转移非常有效,开放集域自适应解决了目标域中可能存在的未知类别问题,这项工作探索了使用CLIP来应用于开放集域自适应的通用方法,并通过熵优化策略提高了模型性能,提供了在多个基准测试上最新的结果,证明了其在解决目标域适应问题中的有效性。
Jul, 2023
部署机器学习系统到未知领域时,需要它们能够有效利用先前的知识,同时对异常输入发出警报。本文提出了一个全面的自然语言基准,以验证模型的普适性和鲁棒性,并观察到原本设计用于图像输入的UniDA方法可以有效地迁移到自然语言领域,并强调了适应难度对模型性能的影响。
Oct, 2023
通过引入新的先验引导的伪标签优化策略,提出了一种改善UniSSDA适应性设置中常见类别偏差的方法,有助于在Office-Home、DomainNet和VisDA等基准数据集上取得最佳性能,并为UniSSDA建立了新的基准线。
Mar, 2024
通过直接利用CLIP进行领域间差异度量,提出了一种新颖的以语言为导向的无监督域自适应方法CLIP-Div,通过收集到的领域不可知分布度量领域差异并使用语言引导校准目标伪标签,从而有效减小领域差距并提高模型的泛化能力,实验证明此方法在Office-Home、Office-31、VisDA-2017和DomainNet数据集上均表现优于基于CNN的现有方法。
Jul, 2024