Jul, 2021

深度度量学习中针对带外分布偏移的泛化特征描述

PDF
TL;DR该研究提出了一个称为 ooDML 的基准测试，旨在评估 Deep Metric Learning 算法在面对不同程度和难度的数据分布转移时的泛化性能，研究发现，在挑战性更多样的训练测试分布转移情况下，部分方法可以更好地保持性能，最后，提出 few-shot DML 方法以有效地提高泛化性能。
deep metric learningzero-shot transferout-of-distribution shiftsevaluation protocolsfew-shot dml
发现论文，激发创造
  • OoD-Bench: 量化和理解外分布泛化的两个维度

    通过对分布偏移数据的分类和对其相关算法的大量实验比较，对已有数据集和算法进行了分类整合，为未来的迁移学习和数据偏移研究提供了参考。

    Jun, 2021

  • GDL-DS：基于分布偏移的几何深度学习基准

    提出了 GDL-DS，一个综合的基准评估，旨在评估 GDL 模型在具有分布偏移的场景中的性能，涵盖多样的科学领域，包括粒子物理学、材料科学和生物化学，并研究了三个层次的信息访问从测试数据中获取，对于 DGL 研究者和领域从业者在应用中使用 DGL 提供了深入分析的评估结果来提供见解。

    Oct, 2023

  • 在不同程度的分布偏移下，鲁棒性可能比我们认为的更脆弱

    我们的研究探讨了分布偏移程度的更加微妙的评估设置，我们发现模型的稳健性在不同程度的分布偏移下可能相当脆弱和不一致，因此在从有限范围下的评估中得出结论时应更加谨慎。此外，我们观察到大规模预训练模型（如 CLIP）对于新颖下游任务的微小分布偏移也很敏感。这表明，尽管预训练表示可以帮助提高内分布性能，但在某些 OOD 场景中可能对泛化性能产生最小甚至负面影响，如果不正确使用。鉴于这些发现，我们鼓励未来的研究在可能的情况下进行更广泛范围的评估。

    Oct, 2023

  • 面向外部分布泛化：一项调查

    该研究论文系统而全面地讨论了 Out-of-Distribution generalization 问题，其中包括它的定义、方法论、评估以及对未来的启示和发展方向，以及包括无监督表示学习在内的现有方法。

    Aug, 2021

  • 关于外分布泛化评估的调研

    机器学习模型在非独立同分布的数据分布下表现出可疑的风险，因此需要发展算法来评估和改善模型的泛化能力以及处理分布变化的能力。本文综述了现有的非独立同分布泛化评估的研究，将其划分为三个范式：非独立同分布性能测试、非独立同分布性能预测和非独立同分布内在特性表征，并简要讨论了预训练模型的非独立同分布评价。最后，提出了未来研究的几个有前景的方向。

    Mar, 2024

  • 引导式深层度量学习

    本文提出了一种新的由两个独立模型构成的度量学习结构 Guided Deep Metric Learning，通过使用 Few-Shot Learning 的角度来生成一个基于带标签数据的先验知识的减少的假设空间，之后通过离线的知识蒸馏方案来指导或规则化学生模型的决策边界，提高在分布偏移下的一般化，并获得了高达 40% 的 (Recall@1, CIFAR10) 改进。

    Jun, 2022

  • 图形在分布偏移下的泛化

    通过引入图学习不变领域生成（GLIDER）的新框架，本文在节点级别的属性分布和拓扑结构分布的共同分布转变的情境下，实现了优于基准方法的节点级别 OOD 广义化跨域模型。

    Mar, 2024

  • 超越泛化：关于图上的外域适应性问题调查

    在这篇综述文章中，我们详细回顾了图形 OOD（Out-Of-Distribution）适应方法，并根据学习范式和技术对其进行了分类。我们还指出了有前景的研究方向和相应的挑战。

    Feb, 2024

  • 深度度量学习中训练策略和泛化性能的重访

    本文通过对深度度量学习算法的客观比较研究，发现了深度度量学习算法饱和度高于文献中表明的水平，并揭示了嵌入空间密度与模型泛化性能之间的相关性，并提出了一种简单有效的训练正则化方法来提高基于排名的深度度量学习模型的性能。

    Feb, 2020

  • 主题、领域和语言变化的桥梁：综合离域场景的评估

    在真实世界中，语言模型在超出分布范围的场景中的泛化能力变得更低，基于提示的微调方法在语义差异较大的任务中表现更好，而基于梯度的学习存在结构障碍的偏差问题。

    Sep, 2023