简化版神经网络无监督域自适应
本文提出了一种针对具有一个源域和多个目标域的无监督域适应场景(1SmT)的模型参数自适应转移的无监督域适应框架(PA-1SmT),该框架通过学习一个共同的模型参数词典进行知识转移,并在三个领域适应基准数据集上实验验证了其优越性。
Sep, 2018
本文提出了一种新的深度学习架构,通过自动发现视觉数据中的潜在域并利用这些信息来学习强健的目标分类器来解决不带标签数据的目标域学习问题,在公共基准测试中表现优于现有的方法。
Mar, 2021
该研究提出了一种算法,可以在没有源数据和目标标签的情况下,自动结合适当的权重来组合源模型,以获得与最佳源模型同样好的性能,这为无监督领域自适应提供了实用性的解决方案。
Apr, 2021
深度学习在许多领域都展现出其超凡表现,但仅仅依靠大量标记数据来训练模型并不能保证其在面临目标域的分布变化时仍有出色的表现,无监督域自适应通过利用源领域标记数据和目标领域未标记数据来解决该问题,并已在自然图像处理、自然语言处理等领域取得了许多令人期待的结果,该文对该领域的方法和应用进行了系统比较,并强调了当前方法的不足及未来研究方向。
Aug, 2022
本文提出了一种称为Transfer Score的度量标准,它通过评估分类器的空间均匀性、特征空间的传递性和区分度,实现了无监督评估域自适应模型的功能,并在公共数据集上进行了广泛的实证研究,证明了Transfer Score度量标准在评估和提高自适应技术整体效果方面的工具性和潜力。
May, 2023
通过提出不变的一致性学习 (ICON) 方法,本研究在领域自适应和无监督领域适应方面取得了最先进的性能,并在具有挑战性的 WILDS 2.0 基准测试上优于传统方法。
Sep, 2023
通过可学习的数据增强技术,本文提出了一种分类框架来解决一次性无监督领域自适应问题。通过设计具有感知损失和风格转换策略的编码器-解码器架构,我们的方法可以学习如何增强源数据,并使其在知觉上类似于目标。该方法在DomainNet和VisDA这两个领域自适应基准数据集上取得了最先进的性能。
Oct, 2023
本研究基于深度学习方法,针对时间序列数据提出了一个全面的基准评估标准,主要解决无监督域适应在时序分类中的不足,通过引入七个新的基准数据集,涵盖了各种模态转换和时间动态问题,并利用先进的神经网络骨干(如Inception)进行方法评估,不仅突出了各种方法的优势和限制,而且符合无监督域适应的本质,对实际问题具有直接应用性,为时间序列数据中的领域适应解决方案的研究推进和创新提供了重要资源。
Dec, 2023
通过将源领域和目标领域的数据点映射到共享嵌入空间中,训练映射编码器使嵌入空间变得与领域无关,从而使在源领域上训练的分类器能够在目标领域上很好地泛化。为了进一步提高无监督领域适应 (UDA) 的性能,我们提出了一种降低源领域内部分布紧密度的技术,从而提高模型在目标领域中的泛化能力。相对于嵌入空间中不同类别的数据表示之间的间隔,我们提高了UDA模型的性能。为了使内部表示更紧密,我们将源领域的内部学习多模态分布估计为高斯混合模型 (GMM)。利用估计的GMM,我们增强了源领域中不同类别之间的分离性,从而减轻了领域转移的影响。我们提供了理论分析来支持我们的方法的优越性能。为了评估我们方法的有效性,我们在广泛使用的UDA基准数据集上进行了实证实验。结果表明我们的方法增强了模型的泛化能力,并超越了现有技术。
Jan, 2024
本研究针对现代无监督领域适应(UDA)方法的有效性影响因素进行了深入分析,填补了该领域对标准化评估框架的需求。通过开发UDA-Bench框架,我们发现高级骨干网络的适应效益递减,当前方法未充分利用未标记数据,且预训练数据在监督和自监督设置中显著影响下游适应。此工作为无监督适应领域提供了新颖的见解,并验证了众多以往常被视为经验启发或从业者直觉的理论。
Sep, 2024