域一般化算法的失效模式

Nov, 2021

Failure Modes of Domain Generalization Algorithms

Tigran Galstyan, Hrayr Harutyunyan, Hrant Khachatrian, Greg Ver Steeg, Aram Galstyan

TL;DR本文提出了一个可以将错误分解成不同泛化方面的组成部分的域泛化算法评估框架，并将其扩展到捕捉实现不变性的各种失败类型。作者表明，域不变表示学习的策略存在两个问题，并提出了一个可行的调整分类器的方向。通过对 Colored MNIST 和 Camelyon-17 数据集的评估，作者发现泛化误差的最大贡献因素因方法、数据集、正则化强度甚至训练长度而异。

Abstract

domain generalization algorithms use training data from multiple domains to learn models that generalize well to unseen domains. While recently proposed benchmarks demonstrate that most of the existing algorithms do not outperform simple baselines, the established evaluation methods fa

domain generalization evaluation framework domain-invariant representation learning colored mnist camelyon-17

发现论文，激发创造

寻找失落的领域泛化

本文介绍一种在不同训练集下预测性能好的算法 ——domain generalization algorithms，并提出它们在实际应用中的可用性。作者实现了一个名为 DomainBed 的测试平台，测试了不同数据集、不同基准算法和不同模型选择的效果，并发现在经验风险最小化的情况下，预测性能最优。研究人员们的贡献，加上这个领域的开源，将推动可重复性和严格性研究的发展。

Jul, 2020

基于模型的领域通用化

本篇论文提出了一种基于模型的域泛化方法，通过对数据生成过程和同变性条件的建模，将域泛化问题转化为一个无限维的有约束统计学习问题，并利用非凸对偶理论发展了有约束松弛的统计问题，提出了具有收敛保证的域泛化算法，并在 ColoredMNIST，Camelyon17-WILDS，FMoW-WILDS 和 PACS 等基准测试中取得了高达 30 个百分点的改进。

Feb, 2021

泛化到未见领域：关于领域泛化的调查

这篇论文是对近年来领域泛化（即在一个或多个不同但相关的领域中学习出可以推广到看不见的测试领域的模型）领域的最新进展的首次回顾，涵盖了相关的理论、算法、数据集、应用，并提出了未来的研究方向。

Mar, 2021

临床环境中领域泛化的经验框架

本研究基于多中心临床时间序列和医学影像数据，评估了 8 种领域泛化方法在现实世界医学成像数据上的性能，并对真实性产生的领域偏差和采样偏差而进行模拟压力测试，发现当前领域泛化方法在现实世界医学成像数据上的表现并不总是能够显著提升。然而，在临床时间序列数据的某些真实性突出情景下，这些领域泛化方法确实会呈现出一定的性能提升，建议在临床环境中采用最佳实践方法来进行领域泛化。

Mar, 2021

特征评论家网络用于异构域通用化

该论文提出一种学会学习的方法，通过学习辅助损失本身来提高模型的泛化能力，进而应用于领域推广的问题，包括传统领域推广和异构域推广。实验结果表明，该方法在两种情况下优于现有的解决方案。

Jan, 2019

领域泛化中模型验证的原则方法

本研究旨在解决域泛化问题，提出了一种新的模型选择方法，该方法综合考虑分类风险和域差异。通过实验结果验证了该方法的有效性。

Apr, 2023

使用多个潜在领域的混合模型进行领域泛化

该研究使用多种潜在领域混合的方式来提高神经网络的领域泛化能力，通过聚类将样本分为不同的领域，并通过对抗学习训练领域不变特征提取器来发现潜在领域，并利用风格特征进行聚类，达到不需要使用领域标签的领域泛化模型的训练。该方法表现优于传统的领域泛化方法，包括使用领域标签的方法。

Nov, 2019

重新思考领域泛化基线

本文针对深度学习部署时出现的不稳定问题，研究了领域泛化方法和数据增强策略。作者聚焦于风格迁移数据增强，展示了如何以简便廉价的策略实现增强，分析了现有领域泛化方法与该策略结合时的表现，并提出了新的领域泛化研究方向。

Jan, 2021

现实世界域泛化的自适应方法

本论文提出了基于领域自适应的方法，将无监督训练样本中的领域信息作为辅助信息，采用学习的鉴别性领域嵌入构建领域自适应模型，用于即使在未见过领域上的预测任务。该方法在各种领域泛化基准上均实现了最先进的性能，并引入了首个现实世界的大规模领域泛化基准 Geo-YFCC，相对于现有的方法，该基于领域自适应的方法在该数据集上实现了显着的优化。

Mar, 2021

领域密度转换的域不变表示学习

本论文提出了一种基于对抗生成网络的方法，通过学习域间变换的不变性来实现域不变表示的学习，以解决领域泛化问题，并在多个广泛使用的数据集上取得了与最先进模型竞争的结果。

Feb, 2021