Feb, 2021

基于模型的领域通用化

PDF
TL;DR本篇论文提出了一种基于模型的域泛化方法，通过对数据生成过程和同变性条件的建模，将域泛化问题转化为一个无限维的有约束统计学习问题，并利用非凸对偶理论发展了有约束松弛的统计问题，提出了具有收敛保证的域泛化算法，并在 ColoredMNIST，Camelyon17-WILDS，FMoW-WILDS 和 PACS 等基准测试中取得了高达 30 个百分点的改进。
deep learningdomain generalizationconstrained optimizationnonconvex duality theoryconvergence guarantees
发现论文，激发创造
  • 泛化到未见领域：关于领域泛化的调查

    这篇论文是对近年来领域泛化（即在一个或多个不同但相关的领域中学习出可以推广到看不见的测试领域的模型）领域的最新进展的首次回顾，涵盖了相关的理论、算法、数据集、应用，并提出了未来的研究方向。

    Mar, 2021

  • 使用多个潜在领域的混合模型进行领域泛化

    该研究使用多种潜在领域混合的方式来提高神经网络的领域泛化能力，通过聚类将样本分为不同的领域，并通过对抗学习训练领域不变特征提取器来发现潜在领域，并利用风格特征进行聚类，达到不需要使用领域标签的领域泛化模型的训练。该方法表现优于传统的领域泛化方法，包括使用领域标签的方法。

    Nov, 2019

  • 通过分布匹配进行到未见过的领域的泛化

    本文探讨监督学习中数据导致的实际问题，着重于领域泛化研究，提出最小化给定领域对之间差异的方法，并在 EEG 数据集中验证了该策略。

    Nov, 2019

  • 寻找失落的领域泛化

    本文介绍一种在不同训练集下预测性能好的算法 ——domain generalization algorithms，并提出它们在实际应用中的可用性。作者实现了一个名为 DomainBed 的测试平台，测试了不同数据集、不同基准算法和不同模型选择的效果，并发现在经验风险最小化的情况下，预测性能最优。研究人员们的贡献，加上这个领域的开源，将推动可重复性和严格性研究的发展。

    Jul, 2020

  • 特征评论家网络用于异构域通用化

    该论文提出一种学会学习的方法，通过学习辅助损失本身来提高模型的泛化能力，进而应用于领域推广的问题，包括传统领域推广和异构域推广。实验结果表明，该方法在两种情况下优于现有的解决方案。

    Jan, 2019

  • 基于模型无关语义特征学习的域泛化

    研究域常规化问题及其解决方法，通过使用基于梯度的元训练和元测试过程，引入了两种补充损失来明确地规范特征空间的语义结构，从而取得了两个常见对象识别基准测试的最新效果。

    Oct, 2019

  • 领域泛化中模型验证的原则方法

    本研究旨在解决域泛化问题，提出了一种新的模型选择方法，该方法综合考虑分类风险和域差异。通过实验结果验证了该方法的有效性。

    Apr, 2023

  • 域一般化算法的失效模式

    本文提出了一个可以将错误分解成不同泛化方面的组成部分的域泛化算法评估框架，并将其扩展到捕捉实现不变性的各种失败类型。作者表明，域不变表示学习的策略存在两个问题，并提出了一个可行的调整分类器的方向。通过对 Colored MNIST 和 Camelyon-17 数据集的评估，作者发现泛化误差的最大贡献因素因方法、数据集、正则化强度甚至训练长度而异。

    Nov, 2021

  • 边缘传递学习实现域泛化

    提出了领域泛化问题的形式框架，主要是在标记的训练集数据来自于几个相关的预测问题的情况下，通过扩充原特征空间来增加特征向量的边际分布，以期在未知的未标记数据集上获得精确的预测。针对核方法，提供了更多的定量结果和通用一致的算法，并在一个合成和三个真实世界的数据集上做了实验比较.

    Nov, 2017

  • 现实世界域泛化的自适应方法

    本论文提出了基于领域自适应的方法，将无监督训练样本中的领域信息作为辅助信息，采用学习的鉴别性领域嵌入构建领域自适应模型，用于即使在未见过领域上的预测任务。该方法在各种领域泛化基准上均实现了最先进的性能，并引入了首个现实世界的大规模领域泛化基准 Geo-YFCC，相对于现有的方法，该基于领域自适应的方法在该数据集上实现了显着的优化。

    Mar, 2021