本文介绍了一种基于能量模型的主动学习策略,名为 “EADA”,可用于帮助将深度神经网络推广到新的目标域。该算法通过求解目标数据组的自由能量,结合领域特征和实例不确定性,从中选择最有价值的目标数据样本。此外,领域差可以通过调整目标数据的自由能量使之紧凑地围绕源域,从而得到有效缩小。实验表明,该算法在各项基准测试中表现良好,比其他先进方法有很大的优势。
Dec, 2021
该论文提出了一种利用单个测试样本进行跨域泛化模型训练的元学习方法,将单个测试样本的自适应变形建模为一种变分贝叶斯推断问题,从而在无需额外数据的情况下实现了对每个测试样本的自动调整,并在多个领域泛化基准测试中取得了至少与现有最先进方法相当甚至更好的性能。
Feb, 2022
通过在无标签目标样本的训练中引入能量函数最小化目标的约束,该论文提出改进的深度自训练框架,以提高无监督域适应的性能,并在大规模图像分类和语义分割任物上进行了广泛的实验。
Aug, 2022
本论文提出了基于领域自适应的方法,将无监督训练样本中的领域信息作为辅助信息,采用学习的鉴别性领域嵌入构建领域自适应模型,用于即使在未见过领域上的预测任务。该方法在各种领域泛化基准上均实现了最先进的性能,并引入了首个现实世界的大规模领域泛化基准 Geo-YFCC,相对于现有的方法,该基于领域自适应的方法在该数据集上实现了显着的优化。
Mar, 2021
通过引入一种新的能量模型视角,我们提出了一种新的测试时间适应方法(TEA),该方法可以增强模型对目标数据分布的感知能力,提高模型的泛化性能。对多项任务、基准和架构的广泛实验证明了 TEA 相对于现有方法的优越性能,深入分析表明 TEA 能够为模型提供对测试数据分布的全面认知,从而改善泛化和校准能力。
Nov, 2023
通过 AdaMixBN 模块和广义熵最小化 (GEM) 损失函数,本论文提出了一种名为 DomainAdaptor 的统一方法,用于进行测试时的适应学习,以最大限度地挖掘测试数据中的信息,并解决训练和测试样本之间的领域偏移问题,从而在四个基准测试中稳定超过现有方法,尤其在少量数据的未知领域中带来了更显著的改进。
Aug, 2023
利用预训练的扩散模型将目标领域图像投影到源领域,并通过伪标签集成迭代更新模型的方法,将模型适应和输入适应的优势相结合,从而减轻它们的缺点。在 CIFAR-10C 上的实验表明,我们的方法优于最强基线平均 1.7%,比最强的输入适应基线平均高出 18%。
该研究提出了一种基于扩散生成模型的测试时间自适应方法(DDA),该方法可在不重新训练模型的情况下通过对输入数据进行自适应来提高模型在移位目标数据上的准确性,并在 ImageNet-C 基准测试中展现了更加鲁棒的表现。
Jul, 2022
通过引入多个特定于源域的分类器,利用预测目标样本属于每个源域的概率进行最优融合,并引入一个域不可知组件来支持最终分类器,我们的深度学习模型在两个公共基准测试上表现出很强的泛化能力。
Jun, 2018
本文提出了一种新的域自适应方法,当目标域可以被描述为参数化向量且存在几个相关源域在同一参数空间内时,它无需访问目标域的数据或标签,大大降低了数据收集和注释的负担,并显示出一些有前途的结果。
Jul, 2015