Jul, 2020

寻找失落的领域泛化

PDF
TL;DR本文介绍一种在不同训练集下预测性能好的算法 ——domain generalization algorithms，并提出它们在实际应用中的可用性。作者实现了一个名为 DomainBed 的测试平台，测试了不同数据集、不同基准算法和不同模型选择的效果，并发现在经验风险最小化的情况下，预测性能最优。研究人员们的贡献，加上这个领域的开源，将推动可重复性和严格性研究的发展。
domain generalizationmodel selectiontestbedempirical risk minimizationreproducible research
发现论文，激发创造
  • 泛化到未见领域：关于领域泛化的调查

    这篇论文是对近年来领域泛化（即在一个或多个不同但相关的领域中学习出可以推广到看不见的测试领域的模型）领域的最新进展的首次回顾，涵盖了相关的理论、算法、数据集、应用，并提出了未来的研究方向。

    Mar, 2021

  • 域一般化算法的失效模式

    本文提出了一个可以将错误分解成不同泛化方面的组成部分的域泛化算法评估框架，并将其扩展到捕捉实现不变性的各种失败类型。作者表明，域不变表示学习的策略存在两个问题，并提出了一个可行的调整分类器的方向。通过对 Colored MNIST 和 Camelyon-17 数据集的评估，作者发现泛化误差的最大贡献因素因方法、数据集、正则化强度甚至训练长度而异。

    Nov, 2021

  • 基于模型的领域通用化

    本篇论文提出了一种基于模型的域泛化方法，通过对数据生成过程和同变性条件的建模，将域泛化问题转化为一个无限维的有约束统计学习问题，并利用非凸对偶理论发展了有约束松弛的统计问题，提出了具有收敛保证的域泛化算法，并在 ColoredMNIST，Camelyon17-WILDS，FMoW-WILDS 和 PACS 等基准测试中取得了高达 30 个百分点的改进。

    Feb, 2021

  • 领域泛化中模型验证的原则方法

    本研究旨在解决域泛化问题，提出了一种新的模型选择方法，该方法综合考虑分类风险和域差异。通过实验结果验证了该方法的有效性。

    Apr, 2023

  • 临床环境中领域泛化的经验框架

    本研究基于多中心临床时间序列和医学影像数据，评估了 8 种领域泛化方法在现实世界医学成像数据上的性能，并对真实性产生的领域偏差和采样偏差而进行模拟压力测试，发现当前领域泛化方法在现实世界医学成像数据上的表现并不总是能够显著提升。然而，在临床时间序列数据的某些真实性突出情景下，这些领域泛化方法确实会呈现出一定的性能提升，建议在临床环境中采用最佳实践方法来进行领域泛化。

    Mar, 2021

  • 通过分布匹配进行到未见过的领域的泛化

    本文探讨监督学习中数据导致的实际问题，着重于领域泛化研究，提出最小化给定领域对之间差异的方法，并在 EEG 数据集中验证了该策略。

    Nov, 2019

  • 关于认证和提高对未见领域的泛化能力

    本文提出了一种基于分布鲁棒优化的普适认证框架，旨在弥补现有基准数据集在测试时无法全面评估领域通用算法的局限性，并提出了一种训练算法，可以用于改进其认证性能。实证评估表明，该方法显著提高了风险压力下模型的最坏损失，而在基准数据集上并未出现显著的性能下降。

    Jun, 2022

  • 无过多实证风险的领域泛化

    通过最小化约束条件下的惩罚，而不是与经验风险同时最小化，我们提出了一种解决域泛化领域中过度风险的方法，并通过将我们的方法应用于文献中的三种方法来证明其有效性。

    Aug, 2023

  • 最佳来源前进：通过源特定网络进行域通用化

    通过引入多个特定于源域的分类器，利用预测目标样本属于每个源域的概率进行最优融合，并引入一个域不可知组件来支持最终分类器，我们的深度学习模型在两个公共基准测试上表现出很强的泛化能力。

    Jun, 2018

  • 域对抗主动学习用于领域泛化分类

    该研究提出了一种领域对抗主动学习算法（DAAL），用于领域泛化任务中的分类任务，在减少数据资源的情况下实现强大的泛化能力，从而降低领域泛化任务中的数据标注成本。

    Mar, 2024