NICO++:针对域泛化的更好基准测试
我们提出了一个新的域泛化任务,用于手写汉字识别,评估了 18 种域泛化方法,并展示了现有方法在该数据集上的性能仍然不令人满意。我们揭示了域泛化方法的更多性质,并主张研究人员参考方法的动态性能进行更全面和可靠的评估。我们将在文章发表时公开我们的数据集,以促进域泛化的研究。
Sep, 2023
本文提出了一种基于分布鲁棒优化的普适认证框架,旨在弥补现有基准数据集在测试时无法全面评估领域通用算法的局限性,并提出了一种训练算法,可以用于改进其认证性能。实证评估表明,该方法显著提高了风险压力下模型的最坏损失,而在基准数据集上并未出现显著的性能下降。
Jun, 2022
本文主要介绍了如何利用深度学习和 CNN 模型处理领域泛化问题,建立起一个更加完整的基准测试数据集,并在其中进行了对比实验,证明了该方法的优越性以及提出的数据集的更高难度值。
Oct, 2017
本文旨在解决域适应问题,提出训练方法和策略,包括将深度神经网络分为特征提取器和分类器、使用伙伴交互训练方法、训练新问题的稳健性特征。新方法在三个域泛化基准下表现出最先进的性能,还表明该方法有助于计算机视觉中的标准方法。
Jan, 2019
在这篇论文中,我们介绍了一种新的领域综合范式,该方法通过提取领域不变特征来解决机器学习中的领域泛化问题,并引入了两个新的定量衡量标准 ICV 和 IDD 来描述风格领域的变化,同时提出了 SuperMarioDomains(SMD)这一新的合成多领域数据集,为 DG 方法 SMOS 的训练提供了预备模型,最终取得了在五个 DG 基准测试上的最新成果,对于抽象领域的性能大幅提升,并在逼真领域上保持相当水平或稍有改善。
May, 2024
通过引入多个特定于源域的分类器,利用预测目标样本属于每个源域的概率进行最优融合,并引入一个域不可知组件来支持最终分类器,我们的深度学习模型在两个公共基准测试上表现出很强的泛化能力。
Jun, 2018
在标准监督学习设置中,假设训练数据和测试数据来自相同的分布(领域)。领域泛化(DG)方法旨在学习一个模型,该模型在多个领域的数据上训练时可以推广到新的未见领域。我们将 DG 扩展到了一个更具挑战性的领域,其中未知领域的标签空间也可能发生变化。我们将此问题称为零射领域泛化(据我们所知,这是第一个这样的尝试),其中模型不仅可以在新的领域之间推广,还可以在这些领域中的新类之间推广。我们提出了一种简单的策略,该策略有效地利用了类的语义信息,以使现有的 DG 方法满足零射领域泛化的要求。我们在 CIFAR-10、CIFAR-100、F-MNIST 和 PACS 数据集上评估了所提出的方法,为这个新的研究方向奠定了坚实的基础。
Aug, 2020
领域通用化的目标是设计算法和模型,能够在之前未见过的测试分布上取得高性能。本研究中,我们对平均度量进行了细致的探究,并提出了 “最差 + 间隙” 度量作为一种强健的替代方案。通过理论推导和实验分析,我们发现平均度量不能准确近似真实的领域通用化性能,而 “最差 + 间隙” 度量在理论上和实践中都表现出了鲁棒性。
May, 2024
该研究对小型神经网络的领域泛化进行了系统的研究,发现知识蒸馏是处理在设备上领域泛化问题的一个更好的技术,并提出了一种称为 OKD 的方法来进一步改进 DG 在图像和语音应用领域中的性能。
Sep, 2022