Jul, 2021

大型图像的高效元学习

PDF
TL;DR提出了一种称为 LITE 的新的元学习方法，通过在训练集中使用一个随机子集来近似全梯度，进而使得此方法既能在单个 GPU 上训练大任务和图像，又能实现对于实际测试数据和较复杂测试集的准确和高效的元学习。
meta-learningfew-shot classificationepisodic trainingmemory-efficientorbit benchmark
发现论文，激发创造
  • Few-shot 学习的元学习方法：最新进展综述

    该论文介绍了元学习在深度学习中的应用及其近期发展，涵盖度量、记忆、基于学习等方法，并探讨了当前的挑战和未来的研究方向。

    Mar, 2023

  • 无需记忆的元学习

    通过信息理论设计的元正则化目标，可以使元学习器在任务训练数据和任务测试数据之间有效地适应，成功地使用来自非相互排斥任务的数据来有效地适应新任务，并在应用场景中大幅优于标准元学习算法。

    Dec, 2019

  • 受限内存下高效元生存学习

    本文提出一个高效的元学习框架，将终身学习的三个普遍原则相结合，以有效地训练同时避免灾难性遗忘和负迁移，并达到与多任务学习相当的性能。

    Oct, 2020

  • 专家培训：面向 Few-Shot 分类任务的难度感知元学习

    该研究提出了一种易 - 难专家元训练策略和任务难度感知模块，用于优化元学习方法，使其在少样本分类任务上表现更好。该策略优先进行易任务的训练，再进行难任务的强化。实验结果显示，该方法在 miniImageNet 和 tieredImageNetSketch 数据集上可以获得更好的结果。

    Jul, 2020

  • 元学习的自适应任务采样

    这篇论文提出了一种基于类对潜力的贪心采样方法，以改善元学习中的少样本分类问题的普适性表现。

    Jul, 2020

  • p-Meta: 面向设备端的深度模型自适应

    该研究提出了一种新的元学习方法 p-Meta，以实现对 IoT 设备上模型的内存和数据的有效适应，提高准确性，优于现有少样本适应方法。

    Jun, 2022

  • 元转移学习用于少样本学习

    本篇论文提出了一种名为元转移学习的新型少样本学习方法，通过训练多个任务以及为每个任务学习深度神经网络权重的缩放和移位函数来实现迁移。作者使用提出的 HT 元批处理方案对 MiniImagenet 和 Fewshot-CIFAR100 这两个具有挑战性的少样本学习基准进行了实验，并将其与相关工作进行了广泛比较，结果验证了元转移学习方法的优越性和高准确性。

    Dec, 2018

  • NeurIPS 2021 元学习挑战赛的得益：在少量样本学习图像分类任务中，直接微调 Backbone 胜过基于序列的元学习

    本文介绍 MetaDL 比赛的设计，数据集，最佳实验结果以及 NeurIPS 2021 挑战赛的排名方法，旨在通过元学习方法解决深度神经网络所需要的大量数据和计算资源的问题，同时强调学习良好的表示对于有效的转移学习至关重要。

    Jun, 2022

  • 通过难度任务实现元转移学习

    本文提出了一种新颖的元转移学习（MTL）方法，通过学习每个任务的深度神经网络权重的缩放和移位函数来实现权重的转移，同时引入了硬任务元批处理方案作为有效的学习课程，对三个具有挑战性的基准数据集进行了少样本学习实验，并报告了五类少样本识别任务的最高性能，验证了 MTL 方法的有效性。

    Oct, 2019

  • 通过记忆模仿提升低资源文本分类和生成的元学习

    文章提出了一种记忆模仿元学习方法，利用任务特定的记忆模块存储支持集信息，并构建模仿模块来强制查询集模仿存储在内存中的某些代表性支持集样本的行为，以提高模型对支持集的利用，进而在文本分类和生成任务中取得了优异的性能。

    Mar, 2022