ICMLApr, 2023

领域泛化的适度分布式探索

PDF
TL;DR本文介绍了一种适用于领域泛化时的分布一致性问题的新方法 MODE，该方法利用分布鲁棒优化探索与训练数据相同语义因素的不确定子集来增加预测的置信度。实验结果表明，MODE 方法与当前最先进技术基线方法具有相当的性能水平。
domain generalizationdistribution shiftdistributionally robust optimizationuncertainty setmode
发现论文，激发创造
  • 关于认证和提高对未见领域的泛化能力

    本文提出了一种基于分布鲁棒优化的普适认证框架，旨在弥补现有基准数据集在测试时无法全面评估领域通用算法的局限性，并提出了一种训练算法，可以用于改进其认证性能。实证评估表明，该方法显著提高了风险压力下模型的最坏损失，而在基准数据集上并未出现显著的性能下降。

    Jun, 2022

  • 利用域凸博弈改善泛化

    本研究提出了一种新的域通用泛化（DG）解决方案，将其重新构建为域之间的凸博弈，以及使用基于超模的正则化项来鼓励每个多样化的域增强模型泛化能力，并构造一个样本筛选器来消除低质量样本的影响， 从而证明我们的方法的合理性和有效性。

    Mar, 2023

  • 动态领域泛化

    提出一种名为 “动态域泛化”(DDG) 的新颖域泛化变体，其中模型学习扭曲网络参数以适应来自不同域的数据，并使用元调整器来扭曲网络参数，以便针对不同来源和目标域进行动态调整。通过使用 DomainMix 来模拟不同域的数据进行教学，以帮助元调整器适应未来的未知目标领域，无需经过训练即可实现模型的自适应调整，实验证明该方法的有效性。

    May, 2022

  • 通过平衡训练难度和模型能力来进行领域泛化

    通过 MoDify 框架中的动量难度方法和数据增强以及网络优化技术，实现了领域泛化的性能提升和训练样本与模型能力之间的平衡，该方法在多个基准测试中表现出优异的性能。

    Sep, 2023

  • 单一领域泛化的多样化学习

    本研究提出了使用样式互补模块来增强模型的泛化能力，从而解决单域泛化中由于样本多样性有限而导致的泛化性能下降。通过在三个基准数据集上进行大量实验，结果表明本方法优于现有的单域泛化方法，最高提升了 25.14%。

    Aug, 2021

  • 泛化到未见领域：关于领域泛化的调查

    这篇论文是对近年来领域泛化（即在一个或多个不同但相关的领域中学习出可以推广到看不见的测试领域的模型）领域的最新进展的首次回顾，涵盖了相关的理论、算法、数据集、应用，并提出了未来的研究方向。

    Mar, 2021

  • 稀疏专家组合是具有领域普适性的学习器

    本文提出了一种基于视觉 Transformer 的领域泛化模型 GMoE，通过研究架构与数据集中相关性的一致性来表征网络的抗干扰性；实验表明 GMoE 使用 ERM 训练的性能大幅优于 SOTA DG 基线，并且在使用新的 DG 算法进行训练时其性能有了显著改善。

    Jun, 2022

  • 边缘传递学习实现域泛化

    提出了领域泛化问题的形式框架，主要是在标记的训练集数据来自于几个相关的预测问题的情况下，通过扩充原特征空间来增加特征向量的边际分布，以期在未知的未标记数据集上获得精确的预测。针对核方法，提供了更多的定量结果和通用一致的算法，并在一个合成和三个真实世界的数据集上做了实验比较.

    Nov, 2017

  • 基于协作探索和泛化的标签高效领域泛化

    本文提出了一个名为 “标签有效领域普遍性（LEDG）” 的新任务，利用 Collaborative Exploration and Generalization（CEG）框架，结合主动探索和半监督泛化，以提高领域泛化能力，并在 PACS 数据集上利用仅 5％的数据注释预测出与前一次使用全标签数据的 DG 方法竞争力相当的结果。

    Aug, 2022

  • 多领域判别分析实现领域泛化

    本文提出了一种多领域判别分析方法 (MDA) 来处理分类任务中的域泛化问题，通过学习一个域不变的特征变换，旨在实现每个类别之间领域的最小差异、类别之间最大可分性以及整体最大紧凑性，在学习理论分析中提供了过度风险和泛化误差的限制，通过对合成数据集和真实基准数据集的全面实验，证明了 MDA 的有效性。

    Jul, 2019