ICLRSep, 2021

自助元学习

PDF
TL;DR本文提出了一种算法来解决元学习中的元优化问题，通过自我教育的方式实现优化及扩展了有效的元学习层数， 在 Atari ALE 基准测试中取得了最新的最佳表现，并展示了在多任务元学习中节省了模型训练时间的能力。
meta-learningai efficiencymeta-optimizationbootstrappingmodel-free agents
发现论文，激发创造
  • 发掘模型潜力：引导式元自监督学习

    我们提出了一种新颖的自举元自我监督学习（BMSSL）框架来模拟人类学习过程，实现从少量无监督数据中学习一般视觉表征的长期目标。

    Aug, 2023

  • 元梯度强化学习

    通过梯度元学习算法能够在线交互并学习环境，适应 return 的性质，进而在 Atari 2600 的 57 个游戏中达到了最新的的最优表现。

    May, 2018

  • 在线发现目标的元梯度强化学习

    本文介绍的一种基于元梯度下降的算法可以通过与环境的交互经验发现自己的目标，并灵活地以深度神经网络为参数。随着时间的推移，该算法可以学习如何学习，最终在 Atari Learning Environment 上表现出比强化学习基准测试更高的得分。

    Jul, 2020

  • 进化式强化学习算法

    通过在计算图的空间中搜索计算值为基础的无模型 RL 代理的损失函数来提出一种元学习强化学习算法的方法，该方法可以广义地适用于训练中未看到的新环境，并能够从头开始学习和提高行业表现。

    Jan, 2021

  • 元学习需要元增强

    本文提出了 Meta-Learning 中的过拟合问题，并使用信息理论框架讨论基于元学习数据增强的方法来解决这个问题。实验证明，该方法对最近提出的元规则技术有很大的补充作用。

    Jul, 2020

  • 元训练智能体实现贝叶斯最优智能体

    该研究通过在一些预测和赌博任务上的实验，发现元学习可以作为近似数值逼近贝叶斯最优智能体的一般技术。实验结果表明，memory-based meta-learning 可以使一些不可解的任务变得可解。

    Oct, 2020

  • 增强元学习范式的简单而有效策略

    元学习是一种有前途的范式，可以实现任务之间的技能迁移。此论文从分布鲁棒的角度优化元学习流程，并用预期尾风险的度量来元训练模型，提高元学习对任务分布的鲁棒性并减少最坏快速适应风险的条件期望。

    Oct, 2023

  • 元学习最近进展的综述和调查

    该论文回顾了元学习的概念和应用，其与深度学习的不同之处在于其能够适应于少量高维数据集，可以用于模型自适应，可不断自我完善实现高度自主的人工智能。元学习不断发展创新，不同的发展方法已有不同的应用和研究方向，进一步拓展了机器学习的应用领域。

    Apr, 2020

  • 概率主动元学习

    这篇论文提出了一种基于概率潜变量模型的任务选择方法，将任务的先前经验引入到元学习算法中，以提高元学习的数据效率，并在机器人实验中获得了实证证据。

    Jul, 2020

  • MALIBO: 元学习用于无似然贝叶斯优化

    提出了一种新的元学习贝叶斯优化方法，通过直接学习任务间查询的效用来解决现有方法在规模可扩展性、观测尺度和噪声类型上的限制，明确建模任务不确定性，并使用辅助模型实现对新任务的稳健适应，在各个基准测试中展现了强大的即时性能，并优于现有元学习贝叶斯优化方法。

    Jul, 2023