KDDMay, 2021

连接小样本学习和适应性：支持查询迁移的新挑战

PDF
TL;DR本文研究了 Few-Shot Learning 中当 support 和 query 样本来自于不同分布时的问题，提出了一种结合 Optimal Transport 和 Prototypical Networks 的新方法，有效缓解了 Distribution Shift 的影响，提高了模型的表现。
few-shot learningdistribution shiftsupport/query shifttransductive algorithmsoptimal transport
发现论文，激发创造
  • 逼真支持 - 查询转移少样本学习的双重对抗对齐

    提出了一个新的挑战，RSQS，侧重于现实的支持 - 查询偏移少样本学习。使用统一的对抗特征对齐方法（DuaL）从两个方面缓解了 RSQS，即跨域偏差和内域变异。在 RSQS 基准测试中，DuaL 明显优于其他方法。

    Sep, 2023

  • 带噪声标签的小样本学习

    介绍了在 few-shot learning（小样本学习）中应对 Label 干扰的技术方法，提出了一种基于 Transformer 的模型（TraNFS）和特征聚合方法，通过在嘈杂的数据集上的测试，验证了这些方法的有效性。

    Apr, 2022

  • 跨域跨集合少样本学习通过学习紧凑和对齐表征

    本文提出一种名为 stabPA 的新方法，通过学习紧凑的原型和跨域对齐表示来同时解决域漂移和少样本学习问题，并在 DomainNet 数据集上实现了优异的结果。

    Jul, 2022

  • FSL 模型得分更高

    通过图像转换生成样本，并在生成的样本上进行分类，可以提高 few-shot-learning 模型在测试阶段的性能。

    Feb, 2024

  • 跨域小样本学习的双自适应表示对齐

    本文提出了一种基于元学习的双自适应表示对齐方法，针对跨域小样本学习问题，在极少量样本的情况下，通过特征和分布的对齐，实现了更好的泛化能力及更高的成果。

    Jun, 2023

  • 跨领域少样本分割通过迭代支持查询对应挖掘

    跨领域少样本分割 (CD-FSS) 需要仅使用有限样本从不同领域中对新颖类别进行分割，论文发现通过 fine-tuning 阶段有效地在领域之间转移学习得到的元知识的必要性以及由于新颖类别样本稀缺导致朴素的 fine-tuning 存在过拟合风险，并提出了一种解决这一挑战的新型跨领域 fine-tuning 策略，通过设计双向少样本预测 (BFP) 和迭代少样本适配器 (IFA) 来降低过拟合风险并最大化利用稀疏的新颖类别样本的监督信号，实验证明该方法显著优于当前技术水平 (+7.8%)，验证了 IFA 能同时应对跨领域挑战和减轻过拟合问题。代码将提供。

    Jan, 2024

  • 知识图谱问题回答的动态少样本学习

    大型语言模型可在知识图谱上进行创新的问答，但未本质上为查询生成而设计。为弥合这一差距，提出了依赖微调或特定架构的解决方案，取得了良好结果但领域外分布泛化有限。在本研究中，我们介绍了一种名为动态少样本学习（DFSL）的新方法。DFSL 整合了上下文学习和语义相似度的效率，并为 KGQA 提供了普遍适用的解决方案，具有最先进的性能。我们在多个基准数据集和架构配置上进行了广泛评估。

    Jul, 2024

  • 从少数样本中推广：关于小样本学习的调查

    本文在对 Few-Shot Learning 进行了深入的调研的基础上，选择使用三种视角：数据，模型，和算法来对 FSL 的方法进行分类，以提供未来研究的启示。

    Apr, 2019

  • 元滤波器学习动态对齐以用于少样本学习

    本文提出了一种基于动态对齐的特征调整方法，从视觉识别的角度解决了 few-shot learning 的问题，采用神经常微分方程技术，使模型能更好地捕捉少量样本的微粒子级别的语义上下文，大幅提高了在 miniImageNet 和 tieredImageNet 数据集上的识别准确率。

    Mar, 2021

  • 探索不变与等变表征在少样本学习中的互补优势

    本论文提出了一种新的训练机制，同时注重等变性和不变性，使得模型能够充分学习具有独立性的特征以及几何变换的结构，进而能够在具有少量数据的情况下很好地推广。通过引入自我监督的蒸馏目标，本文的方法即使不使用知识蒸馏，在五个流行数据集上的表现也能超过目前最先进的 few-shot learning 方法。

    Mar, 2021