ICMLMay, 2019

TapNet: 任务自适应投影增强的神经网络用于少样本学习

PDF
TL;DR本文提出了一种增强任务适应性的 TapNets 神经网络模型，利用元学习策略和基于任务的投影方法来实现在只有少量训练数据的情况下进行优化，共学习一个网络和一组每类参考向量，通过将特征线性投影到投影空间并计算查询和参考向量之间的距离，从而实现出色的泛化性能。在 Omniglot, miniImageNet 和 tieredImageNet 数据集中的小样本下，该模型在各项指标下达到最优的分类精度。
发现论文，激发创造
  • XtarNet： 用于增量式少样本学习的任务自适应表示学习

    本文提出了 XtarNet 算法，通过元训练得到任务适应性表示（TAR），用于增量小样本学习。XtarNet 能够将基础特征和元训练模块提取的新特征相结合，生成有效的 TAR，使得分类器能够快速适应新任务，实验结果表明其性能达到最先进水平。此外，TAR 也能够与现有增量小样本学习方法相结合以显著提高表现。

    Mar, 2020

  • TAFE-Net：面向任务的低样本学习特征嵌入

    本研究提出了 TAFE-Net，它是由元学习器和预测网络组成的任务感知特征嵌入网络，可在零样本和少样本学习方面达到与或超过现有技术。我们的方法在处理挑战性的视觉属性 - 对象组合任务时提高了未见过的属性 - 对象对的预测准确率 4 到 15 个百分点。

    Apr, 2019

  • 利用折叠依存转移和标签增强的任务自适应投影网络进行少样本槽位标记

    本文主要介绍了一种通过引入条件随机场 (CRF) 中的依赖传递机制，通过转移抽象标签依赖模式作为转移分数来解决少样本（few-shot）场景下的标签分配问题，并提出了 L-TapNet 模型，它基于含义表示标签名称语义来计算发射分数，并在实验中使用 One-shot setting 方法，相对强的基线方法提高了 14.64 个 F1 分数。

    Jun, 2020

  • 自适应注意力的小样本分类

    本文提出一种新的 few-shot 学习方法，通过优化和快速适应查询样本的表示来改进 few-shot 分类，所提出的自适应注意力模型还能够解释分类模型所寻找的证据。在各种基准 few-shot 分类和精细识别数据集上，实验证明了所提出模型的分类结果达到了最先进水平。

    Aug, 2020

  • 一次性学习的匹配网络

    本研究使用深度神经网络和度量学习的思想，建立了一种学习新概念的框架，从而不需要微调以适应新的类别类型，并在视觉和语言任务中定义了一次性学习问题，实验结果表明，在 Imagenet 数据集上，准确率从 87.6% 提高到 93.2%，在 Omniglot 数据集上，准确率从 88.0% 提高到 93.8%。

    Jun, 2016

  • 半监督少样本分类的元学习

    本研究致力于发展一种在少量标记数据情况下对未标记数据进行分类的方法并提出一种新型 Prototypical Networks 和一种使用未标记数据的元学习算法来解实际问题，经过对 Omniglot、miniImageNet 和 ImageNet 进行实验，验证了这些算法可以使预测结果得到显著改进。

    Mar, 2018

  • 元转移学习用于少样本学习

    本篇论文提出了一种名为元转移学习的新型少样本学习方法，通过训练多个任务以及为每个任务学习深度神经网络权重的缩放和移位函数来实现迁移。作者使用提出的 HT 元批处理方案对 MiniImagenet 和 Fewshot-CIFAR100 这两个具有挑战性的少样本学习基准进行了实验，并将其与相关工作进行了广泛比较，结果验证了元转移学习方法的优越性和高准确性。

    Dec, 2018

  • 元学习用于少样本时间序列分类

    利用梯度元学习方法，以残差神经网络作为元学习代理来进行少样本时间序列分类问题的模型训练，实现在少量目标任务训练样本下对来自不同领域的目标任务进行快速预测，在 UCR TSC Archive 数据集中实现较强的表现。

    Sep, 2019

  • TART: 任务自适应参考转换技术提升少样本文本分类

    提出一种基于 Task-Adaptive Reference Transformation 网络的 Few-Shot 文本分类方法，通过在任务自适应度量空间中将类原型转换为每个类的固定参考点来增强泛化能力，并引入了一种在转换后的原型之间的区别性参考正则化方法，实验结果在四个基准数据集上均超越了现有模型。

    Jun, 2023

  • Grad2Task: 使用梯度表示任务的改进少样本文本分类

    本文提出了一种基于条件神经过程的方法，用于 few-shot 文本分类，通过从其他各种丰富注释的任务中迁移学习，利用梯度信息从基础模型中表示每个任务，并训练一个调整网络来调整一个文本分类器，受任务表示的条件约束，实验结果表明，这种方法在多个 few-shot 任务上的表现优于传统的 fine-tuning、序列迁移学习和最先进的元学习方法。

    Jan, 2022