特征评论家网络用于异构域通用化
本文提出了一种元学习方法,通过在每个小批处理中合成虚拟测试领域,模拟训练/测试领域变化的过程,使用模型无关的培训程序,这种方法在最新的跨领域图像分类基准测试中取得了最先进的结果,并在两项经典强化学习任务中展示了其潜力。
Oct, 2017
本文介绍一种在不同训练集下预测性能好的算法——domain generalization algorithms,并提出它们在实际应用中的可用性。作者实现了一个名为 DomainBed 的测试平台,测试了不同数据集、不同基准算法和不同模型选择的效果,并发现在经验风险最小化的情况下,预测性能最优。研究人员们的贡献,加上这个领域的开源,将推动可重复性和严格性研究的发展。
Jul, 2020
本篇论文提出了一种基于模型的域泛化方法,通过对数据生成过程和同变性条件的建模,将域泛化问题转化为一个无限维的有约束统计学习问题,并利用非凸对偶理论发展了有约束松弛的统计问题,提出了具有收敛保证的域泛化算法,并在ColoredMNIST,Camelyon17-WILDS,FMoW-WILDS和PACS等基准测试中取得了高达30个百分点的改进。
Feb, 2021
这篇论文是对近年来领域泛化(即在一个或多个不同但相关的领域中学习出可以推广到看不见的测试领域的模型)领域的最新进展的首次回顾,涵盖了相关的理论、算法、数据集、应用,并提出了未来的研究方向。
Mar, 2021
本论文提出了基于领域自适应的方法,将无监督训练样本中的领域信息作为辅助信息,采用学习的鉴别性领域嵌入构建领域自适应模型,用于即使在未见过领域上的预测任务。该方法在各种领域泛化基准上均实现了最先进的性能,并引入了首个现实世界的大规模领域泛化基准Geo-YFCC,相对于现有的方法,该基于领域自适应的方法在该数据集上实现了显着的优化。
Mar, 2021
本文提出一种新的域泛化范式——专业组合学习,利用固定的预先训练模型,先训练出一个线性标签空间适配器,然后提出一个认识到模型特殊性的集成网络,动态地分配适当的预训练模型来预测每个测试样本,与现有的域泛化方法相比,可以显著提高性能并大大减少可训练参数和时间成本。
Mar, 2022
本文提出了基于领域特定风险最小化(DRM)的方法,旨在通过利用源域信息和适应性差的估计和最小化来弥合领域间差异以实现领域通用性,并在不同分布漂移设置下显着优于竞争基准。
Aug, 2022
通过在潜在空间中生成被干扰的特征并对模型预测进行领域转移的正则化来模拟领域转移的在线一阶交叉对比特征扰动(Cross Contrasting Feature Perturbation)框架引入的模块与语义一致性约束设计和学习特征扰动的,无需生成模型或领域标签的方法能够在分布不同的场景中缓解领域转移问题。
Jul, 2023
领域泛化通过提高模型的鲁棒性来开发具有分布偏移上的稳定性的模型。现有方法在跨域数据上学习不变性以增强模型的稳健性,数据增强被广泛用于学习不变的预测模型,其中大多数方法在输入空间进行增强。然而,输入空间的增强的多样性有限,而特征空间的增强更加灵活且显示了有希望的结果。然而,特征语义很少被考虑,现有特征增强方法缺乏增强特征的多样性。我们将特征分解为类通用、类特定、领域通用和领域特定组件。我们提出了一种名为XDomainMix的跨域特征增强方法,使我们能够增加样本的多样性,同时强调学习不变表示以实现领域泛化。对广泛使用的基准数据集的实验证明我们的方法能够实现最先进的性能。定量分析表明我们的特征增强方法有助于学习在不同领域中都不变的有效模型。
May, 2024