领域泛化的改进测试时适应
本文提出了一种元学习方法,通过在每个小批处理中合成虚拟测试领域,模拟训练/测试领域变化的过程,使用模型无关的培训程序,这种方法在最新的跨领域图像分类基准测试中取得了最先进的结果,并在两项经典强化学习任务中展示了其潜力。
Oct, 2017
本文提出了一种串行学习框架,用于域泛化问题,通过在每个步骤上训练来最大化下一个域的性能,提供了更多的实践,从而改善了基本学习者的性能。我们将其应用于最近提出的元学习域泛化,显示出一种简单而快速的算法,在各种域泛化基准测试中提供了一致的性能改进。
Apr, 2020
本论文提出了基于领域自适应的方法,将无监督训练样本中的领域信息作为辅助信息,采用学习的鉴别性领域嵌入构建领域自适应模型,用于即使在未见过领域上的预测任务。该方法在各种领域泛化基准上均实现了最先进的性能,并引入了首个现实世界的大规模领域泛化基准Geo-YFCC,相对于现有的方法,该基于领域自适应的方法在该数据集上实现了显着的优化。
Mar, 2021
该论文提出了一种利用单个测试样本进行跨域泛化模型训练的元学习方法,将单个测试样本的自适应变形建模为一种变分贝叶斯推断问题,从而在无需额外数据的情况下实现了对每个测试样本的自动调整,并在多个领域泛化基准测试中取得了至少与现有最先进方法相当甚至更好的性能。
Feb, 2022
本次研究调查了测试时间适应(TTA)在机器学习中的应用与优化方法。针对不同的学习场景,研究紧分测试时间领域适应、测试时间批适应、在线测试时间适应和测试时间先验适应四类,总结了高级算法的分类方法,探讨了TTA的应用与未来研究的挑战。
Mar, 2023
本文提出了一种利用非参数分类器实现测试时自适应的方法(AdaNPC),该方法使用具有培训域中特征和标签对的存储器,以动态地适应不同领域的测试集。该方法通过本文进行的广泛数值实验比其他有竞争力的基线方法表现更好。
Apr, 2023
本文提出了一种名为 ROID 的方法,该方法通过使用确定性和多样性加权、源模型和自适应模型的加权平均以及自适应添加先验校正方案等多项技术手段,解决了在线测试时自适应的问题,以及由于多种因素引起的模型性能下降问题。该方法在多种数据集、模型和场景下进行了评估,并在普遍 TTA 领域取得了新的标准。
Jun, 2023
本文提出了测试时样式转换和样式均衡方法以解决域泛化中的模型训练与目标域未知的问题。在不需要进一步模型更新的情况下,通过这种方法,模型可以处理任意具有任意样式统计数据的目标域,并且已在不同数据集上得到实验证明其有效性。
Jun, 2023
通过最大化奇异值的总和同时最小化其方差,我们提出的方法在实现 FTTA 过程中增强了较难区分的类别的判别能力,有效提高了预测结果的多样性,并通过使用前一批次的数据为当前批次实现语义数据增广以减小过拟合风险。广泛的基准实验表明了我们提出的方法相较于某些先进的FTTA方法取得了更好的性能。
Dec, 2023
本研究针对机器学习算法在测试样本分布偏离训练样本分布时所面临的挑战,提出了一种新的测试时适应学习范式,结合了领域适应和领域泛化的优点。通过对400多篇相关论文的系统性回顾,本文将现有方法分类为五个类别,并深入分析其在分布变化评估及实际应用中的有效性,展望了测试时适应的研究机会。
Nov, 2024