提出一种名为 Disentangled Dense Retrieval(DDR)的新型 Dense Retrieval 框架来支持 DR 模型的有效和灵活的领域自适应,该框架包括一个 Relevance Estimation Module(REM)和几个 Domain Adaption Modules(DAMs),通过使 REM 和 DAMs 分离,DDR 实现了一种灵活的训练范式,在不同的领域和语言中都表现出比强大的 DR 基线更好的排名性能。
Aug, 2022
该研究提出了一种基于零样本学习的深度学习领域自适应方法(ZDDA),它可以在没有相关目标域数据的情况下进行任务迁移和传感器融合,并通过多个数据集的实验验证了其有效性。
Jul, 2017
通过集群假设的视角,该研究提出了两个新的模型:结合领域对抗训练和对集群假设违反的惩罚的虚拟敌对领域自适应(VADA)模型以及采用自然梯度步骤进一步减小集群假设违反的 Decision-boundary 迭代细化训练与教师(DIRT-T)模型。广泛的实证结果表明,这两个模型的组合大大提高了数字,交通标志和 Wi-Fi 识别领域自适应基准的最新性能。
Feb, 2018
比较了使用大型语言模型生成查询和基于规则的方法进行合成注释来进行神经信息检索,结果表明大型语言模型在所有情景中的性能优于基于规则的方法,而无监督领域适应相对于零样本方式应用监督信息检索系统是有效的。
Oct, 2023
本文综述了最新的单源深度无监督域适应方法,主要集中在视觉任务中,并讨论了未来研究的新视角。首先介绍了不同领域适应策略的定义和现有基准数据集的描述,然后总结和比较了不同类别的单源无监督域适应方法,包括基于差异性的方法,对抗式鉴别方法,对抗式生成方法和自监督方法,并探讨了未来的研究方向、挑战和可能的解决方案。
Sep, 2020
本文关注的是无监督领域适应问题,该问题中只在源域内提供标签。文章试图从不同角度解释领域适应的类别,并提出了一些成功的浅层和深层领域适应方法。
Oct, 2020
本研究提供了关于计算机视觉领域中,基于深度学习的深度域适应方法的全面概述,分类不同的深度域适应情景,总结了深度域适应方法,重点分析比较了各种情况下的最先进方法,并着重强调了当前方法的潜在缺陷和未来几个方向。
提出了一种用于 Source-Free Domain Adaptation 的新框架,使用在目标领域样本上训练的文本到图像扩散模型生成源数据,并使用 Domain Adaptation 技术将生成的源数据与目标领域数据对齐,从而显著提高目标领域模型的性能。
本文系统概述了用于计算机视觉应用的深度域自适应方法,涵盖了深度架构在领域自适应中的运用、深度视觉域自适应的发展趋势,并介绍了可应用于这些模型的其他改进策略。
Dec, 2020
深度学习在许多领域都展现出其超凡表现,但仅仅依靠大量标记数据来训练模型并不能保证其在面临目标域的分布变化时仍有出色的表现,无监督域自适应通过利用源领域标记数据和目标领域未标记数据来解决该问题,并已在自然图像处理、自然语言处理等领域取得了许多令人期待的结果,该文对该领域的方法和应用进行了系统比较,并强调了当前方法的不足及未来研究方向。