通过分布匹配进行到未见过的领域的泛化
本篇论文提出了一种基于模型的域泛化方法,通过对数据生成过程和同变性条件的建模,将域泛化问题转化为一个无限维的有约束统计学习问题,并利用非凸对偶理论发展了有约束松弛的统计问题,提出了具有收敛保证的域泛化算法,并在 ColoredMNIST,Camelyon17-WILDS,FMoW-WILDS 和 PACS 等基准测试中取得了高达 30 个百分点的改进。
Feb, 2021
这篇论文是对近年来领域泛化(即在一个或多个不同但相关的领域中学习出可以推广到看不见的测试领域的模型)领域的最新进展的首次回顾,涵盖了相关的理论、算法、数据集、应用,并提出了未来的研究方向。
Mar, 2021
该研究使用多种潜在领域混合的方式来提高神经网络的领域泛化能力,通过聚类将样本分为不同的领域,并通过对抗学习训练领域不变特征提取器来发现潜在领域,并利用风格特征进行聚类,达到不需要使用领域标签的领域泛化模型的训练。该方法表现优于传统的领域泛化方法,包括使用领域标签的方法。
Nov, 2019
本文研究了领域自适应中的输入表示对齐问题,提出了一种基于最小化源域和目标域表示分布之间的反向 Kullback-Leibler 差距的方法,利用概率表示网络实现了高效稳定的对齐方法,实验结果表明其优于其他对齐方法。
Jun, 2021
通过最小化约束条件下的惩罚,而不是与经验风险同时最小化,我们提出了一种解决域泛化领域中过度风险的方法,并通过将我们的方法应用于文献中的三种方法来证明其有效性。
Aug, 2023
该篇研究论文提出了一个基于循环迭代的数据增强方法,使用虚构的目标领域中存在 “困难” 样本的数据来训练学习模型,以在先前未知的目标领域上实现更好的一般化表现。该方法利用对抗性示例以及数据依赖正则化来提高模型性能。
May, 2018
本文提出了基于领域特定风险最小化(DRM)的方法,旨在通过利用源域信息和适应性差的估计和最小化来弥合领域间差异以实现领域通用性,并在不同分布漂移设置下显着优于竞争基准。
Aug, 2022
本论文提出了基于领域自适应的方法,将无监督训练样本中的领域信息作为辅助信息,采用学习的鉴别性领域嵌入构建领域自适应模型,用于即使在未见过领域上的预测任务。该方法在各种领域泛化基准上均实现了最先进的性能,并引入了首个现实世界的大规模领域泛化基准 Geo-YFCC,相对于现有的方法,该基于领域自适应的方法在该数据集上实现了显着的优化。
Mar, 2021
本文介绍了一种针对域自适应问题的新型分布距离度量 —— 偏差距离,并给出了不同损失函数的估计方法以及普遍推广界限。同时,本文也探讨了偏差距离减少和多种损失函数的最小化算法,并验证了其在不同应用场景的有效性。
Feb, 2009