ICMLMar, 2017

元网络

PDF
TL;DR本文介绍了一种新的元学习方法 Meta Networks（MetaNet），它通过快速参数化学习跨任务的元级知识，并在新概念上进行快速泛化，同时保持了以前所学的性能表现，在 Omniglot 和 Mini-ImageNet 基准测试中，我们的 MetaNet 模型实现了接近人类水平的表现，并在准确性上优于基线方法高达 6％。我们展示了 MetaNet 的几个有吸引力的性质，如泛化和持续学习。
neural networksmeta learningrapid generalizationperformancecontinual learning
发现论文，激发创造
  • 无关模型的元学习用于深度网络的快速适应

    本文提出了一种模型无关的元学习算法，通过少量的训练样本，使用梯度下降算法来训练模型的参数，实现了对新学习任务的快速调整和学习，导致在少量图像分类、回归和神经网络政策优化方面表现出最先进的性能。

    Mar, 2017

  • 领域泛化通过元学习：一项调查

    深度神经网络在人工智能领域带来了革命性的进展，但面对分布转移时常常缺乏性能。传统神经网络假设训练和测试数据服从同一分布，然而实际应用中这一假设经常被违反。元学习作为一种有前景的方法，通过获取可传递的知识来快速适应各种任务，从而消除了从头学习每个任务的需求。本文基于特征提取策略和分类器学习方法的新分类法，全面调查了元学习在领域泛化方面的贡献，详细介绍了该领域的基础知识，并提供了关于未来研究方向的实践见解和深入讨论。

    Apr, 2024

  • LGM-Net: 学习生成匹配网络进行少样本学习

    本文提出了一种新的元学习方法：LGM-Net，通过学习跨任务的可转移先验知识并直接产生相似未见过任务的网络参数来进行少样本分类，其中包含 TargetNet 模块和 MetaNet 模块，且介绍了一种跨任务整合策略以利用不同任务之间的公共信息，实验结果表明，LGM-Net 可以有效地适应相似未见的任务，具有比其他元学习方法更快的学习和适应速度。

    May, 2019

  • 深度元学习综述

    本论文旨在提供关于 Deep Meta-Learning 的理论基础以及总结关键的度量、模型和优化技术，同时也指出了性能评估和计算成本等主要挑战。

    Oct, 2020

  • 神经网络中的元学习：一份调查报告

    该文总结了元学习（或学习 - 学习）领域的现状，旨在通过改进学习算法本身来解决深度学习中包括数据和计算瓶颈在内的传统挑战，并提出了一种更全面的元学习方法分类，并重点介绍了几个应用领域，如少样本学习和强化学习，并讨论了未来研究的未解决的问题和有前景的方向。

    Apr, 2020

  • 元学习最近进展的综述和调查

    该论文回顾了元学习的概念和应用，其与深度学习的不同之处在于其能够适应于少量高维数据集，可以用于模型自适应，可不断自我完善实现高度自主的人工智能。元学习不断发展创新，不同的发展方法已有不同的应用和研究方向，进一步拓展了机器学习的应用领域。

    Apr, 2020

  • 一个简单的神经注意力元学习器

    本文提出一种使用时间卷积和软注意力的简单而通用的元学习器结构，命名为 SNAIL， 在广泛的元学习实验中实现了表现显著优于现有技术，并获得了当前最先进的性能。

    Jul, 2017

  • 基于多任务元学习的数据高效脑连接组分析

    通过元学习技术，在跨数据集的情况下，训练大规模的大脑连通性图谱数据集，提出了基于元学习的数据高效训练策略，并通过图神经网络框架，包括变换式的跨数据集任务权重自适应等，得到了更高效和更稳定的性能，为了更好地研究疾病间和数据集间的相似性，提出了新的见解。

    Jun, 2022

  • 有限样本学习 —— 元学习及其在通信系统中的应用

    这篇论文介绍了元学习的概念和原理，并阐述了元学习与传统学习和联合学习的比较。在讨论主要的元学习算法和元学习技术的定义的通用双层优化框架之后，提出了几个元学习的应用。此外还介绍了与新兴计算技术，即神经形态计算和量子计算相关的元学习一些方面。

    Oct, 2022

  • 基于层级专家网络的元学习

    该论文提出了一种信息论的元学习模型，通过优化划分学习任务，使得专业的决策者解决子问题，从而达到高效的适应新任务的效果，在图像分类、回归和强化学习三个元学习领域进行验证。

    Oct, 2019