Oct, 2019

通过深度核进行少样本元学习的贝叶斯方法

PDF
TL;DR使用深度核函数的贝叶斯元学习方法（DKT）可应用于小数据集问题，提供了多种优势，实验结果优于多种现有算法，并可将复杂的元学习程序替换为简单的贝叶斯模型。
machine learningfew-shot learningmeta-learningbayesiandeep kernels
发现论文，激发创造
  • 浅层贝叶斯元学习用于实现现实世界中的小样本识别

    本文介绍了一种名为 MetaQDA 的贝叶斯元学习模型，其特点是在元学习分类器层面上实现 few-shot 学习。实验表明，这种方法在跨领域 few-shot 学习中具有鲁棒的性能，并能更好地预测不确定性。

    Jan, 2021

  • 自适应深度核学习

    该研究基于深度神经网络学习参数化的内核算子，在 few-shot 回归任务中学习内核家族，从而使算法能够识别每个任务的适当内核，并通过实际应用于药物发现领域的 few-shot 回归任务与现有算法进行比较，表明其在复杂任务分布和状态下的性能优越。

    May, 2019

  • 元转移学习用于少样本学习

    本篇论文提出了一种名为元转移学习的新型少样本学习方法，通过训练多个任务以及为每个任务学习深度神经网络权重的缩放和移位函数来实现迁移。作者使用提出的 HT 元批处理方案对 MiniImagenet 和 Fewshot-CIFAR100 这两个具有挑战性的少样本学习基准进行了实验，并将其与相关工作进行了广泛比较，结果验证了元转移学习方法的优越性和高准确性。

    Dec, 2018

  • Few-shot 学习的元学习方法：最新进展综述

    该论文介绍了元学习在深度学习中的应用及其近期发展，涵盖度量、记忆、基于学习等方法，并探讨了当前的挑战和未来的研究方向。

    Mar, 2023

  • 通过难度任务实现元转移学习

    本文提出了一种新颖的元转移学习（MTL）方法，通过学习每个任务的深度神经网络权重的缩放和移位函数来实现权重的转移，同时引入了硬任务元批处理方案作为有效的学习课程，对三个具有挑战性的基准数据集进行了少样本学习实验，并报告了五类少样本识别任务的最高性能，验证了 MTL 方法的有效性。

    Oct, 2019

  • 一种用于定制模型训练的元学习方法

    本文提出了一种联合训练方法，将迁移学习和元学习相结合，从而在少分类、少样本以及多分类、多样本任务中均可获得更好的泛化性能。

    Sep, 2018

  • 专家培训：面向 Few-Shot 分类任务的难度感知元学习

    该研究提出了一种易 - 难专家元训练策略和任务难度感知模块，用于优化元学习方法，使其在少样本分类任务上表现更好。该策略优先进行易任务的训练，再进行难任务的强化。实验结果显示，该方法在 miniImageNet 和 tieredImageNetSketch 数据集上可以获得更好的结果。

    Jul, 2020

  • 贝叶斯模型无关元学习

    本文提出一种新的贝叶斯模型无关元学习方法，结合可伸缩的基于梯度的元学习和非参数变分推断，通过一个有原则的概率框架去学习复杂的不确定性结构，并且在 meta-update 时使用鲁棒的贝叶斯 meta-update 机制防止过拟合。此方法在各种任务中展现了准确性和鲁棒性。

    Jun, 2018

  • 为少样本学习设计的实例和任务感知动态核学习

    本论文提出了一种动态卷积神经网络模型，能够通过每个任务的动态内核快速适应于给定任务的情境，并以整体和每个样本的基础上依独立地进一步调整每个通道和位置的注意力机制，从而能够同时关注全局信息和细微的特征并提高 Few-Shot Learning 的性能。在四个 Few-Shot 分类基准: mini-ImageNet、tiered-ImageNet、CUB 以及 FC100 中，以及一个 Few-Shot 检测数据集: MS COCO-PASCAL-VOC 中，得到了比基准模型更显著的成绩。

    Dec, 2021

  • 深度核学习的前景和风险

    研究深核学习在处理真实数据时可能存在的过拟合问题及其原因，使用 UCI、CIFAR-10 和 UTKFace 三个数据集进行实验验证。发现过度最大边缘似然优化可能会导致严重的过拟合问题，并通过完全贝叶斯方法得到了更好的性能提升。

    Feb, 2021