时代分割
该研究论文系统而全面地讨论了 Out-of-Distribution generalization 问题,其中包括它的定义、方法论、评估以及对未来的启示和发展方向,以及包括无监督表示学习在内的现有方法。
Aug, 2021
机器学习模型在非独立同分布的数据分布下表现出可疑的风险,因此需要发展算法来评估和改善模型的泛化能力以及处理分布变化的能力。本文综述了现有的非独立同分布泛化评估的研究,将其划分为三个范式:非独立同分布性能测试、非独立同分布性能预测和非独立同分布内在特性表征,并简要讨论了预训练模型的非独立同分布评价。最后,提出了未来研究的几个有前景的方向。
Mar, 2024
本文第一次尝试对 OOD 问题的可学习性和扩张函数进行严格和量化的定义,并引入了一个新的扩张函数概念来量化不变特征的方差程度,进而证明了 OOD 泛化误差界,实验证明我们的模型选择标准相比基线有显著优势。
Jun, 2021
本研究发现,虽然静态计算机视觉任务的 OOD 泛化已被广泛研究,但时间序列任务的 OOD 泛化未被充分探索,作者提出了 WOODS, 包含 8 个挑战性的时间序列基准测试,结果表明在这些数据集上的经验风险最小化和 OOD 泛化算法有很大的改进空间。
Mar, 2022
我们综合调查了图形领域中的 ODD 概括率,并详细审查了最近在这个领域取得的进展,然后根据其在图形机器学习流水线中的位置,从数据、模型和学习策略等不同概念上将现有方法分为三类,并对每个类别进行了详细讨论,最后分享了我们对未来研究方向的看法。
Feb, 2022
这篇论文介绍了一种针对决策树模型的 OutOf-Distribution(OOD)泛化的新颖有效解决方案,名为不变决策树(IDT)。IDT 通过在树的生长过程中对于不同环境下分割的不稳定 / 变化行为施加惩罚项来实现 OOD 泛化。通过理论结果和合成以及真实数据集的数值测试,证实了所提出的方法的优越性能,表明决策树模型的 OOD 泛化是绝对必要且应该更加关注。
Dec, 2023
本篇研究论文探讨了自然语言处理中机器学习系统在处理超出标准数据集范畴的数据时的适用性,并在文本分类中研究了其可靠性及可能存在的偏差。此外,本文对该主题的最新进展、方法和评估进行了综述,并讨论了涉及的挑战和未来的研究方向。
May, 2023
在这篇综述文章中,我们详细回顾了图形 OOD(Out-Of-Distribution)适应方法,并根据学习范式和技术对其进行了分类。我们还指出了有前景的研究方向和相应的挑战。
Feb, 2024
这篇研究论文探讨了视觉问答的 OOD 基准测试(VQA-CP)目前存在的问题,指出了现有方法的局限性以及可能带来的负面影响,并提出了一些简单的解决方案,以更准确地评估模型的泛化能力。
May, 2020