Jun, 2019

自适应基于梯度的元学习方法

PDF
TL;DR本文提出了一种理论框架来设计和理解实用的元学习方法，该方法将任务相似性的复杂形式化与在线凸优化和序列预测算法的广泛文献融合。该方法使任务相似性能够自适应地学习，为统计学习 - to-learn 的转移风险提供更加精确的界限，并在任务环境动态变化或任务共享一定几何结构的情况下，导出高效算法的平均情况后悔界限。我们使用该理论修改了几种流行的元学习算法，并在少样本学习和联邦学习的标准问题上改善了它们在元测试时的性能。
发现论文，激发创造
  • 基于梯度的元学习的可证明保证

    本文介绍了基于在线凸优化的元学习问题，并提出了一种元算法，使得流行的基于梯度的元学习和传统的基于正则化的多任务转移方法之间的差距得以弥合。我们的方法是第一个在凸设置下同时满足良好的样本效率保证，并且具有随着任务相似度提高而改善的泛化界限，同时在现代深度学习体系结构和多任务环境下具有可伸缩性的方法。尽管算法很简单，但它匹配了下限，是任何此类参数传输方法在自然任务相似度假设下的性能的常数因子。我们在凸和深度学习设置下的实验验证和演示了我们理论的适用性。

    Feb, 2019

  • 在线元学习

    该研究提出了一种综合了元学习和在线学习范式的在线元学习模型，运用改进后的 MAML 算法，实现连续终身学习，实验结果表明该算法明显优于传统的在线学习方法。

    Feb, 2019

  • 增强元学习范式的简单而有效策略

    元学习是一种有前途的范式，可以实现任务之间的技能迁移。此论文从分布鲁棒的角度优化元学习流程，并用预期尾风险的度量来元训练模型，提高元学习对任务分布的鲁棒性并减少最坏快速适应风险的条件期望。

    Oct, 2023

  • 元学习对抗性赌博机

    本文研究了跨多任务的在线学习问题，设计了一个统一的元算法，旨在优化平均性能。该算法在多臂老虎机和乐观线性优化两个重要情境下提供了特定保证，通过任务平均后悔的降低来提高性能。

    May, 2022

  • 无关模型的元学习用于深度网络的快速适应

    本文提出了一种模型无关的元学习算法，通过少量的训练样本，使用梯度下降算法来训练模型的参数，实现了对新学习任务的快速调整和学习，导致在少量图像分类、回归和神经网络政策优化方面表现出最先进的性能。

    Mar, 2017

  • MetaGrad: 在线学习中的多个学习率

    介绍了 MetaGrad 方法，它是一种自适应方法，能够在多种凸函数子类中实现快速速率，该方法采用了倾斜指数权重主算法，可以同时考虑多个学习率，适用于指数凹和强凸函数，以及各种类型的随机和非随机函数。

    Apr, 2016

  • 元学习对抗强盗算法

    该论文研究了具有 bandit feedback 的在线元学习，目的是通过某种自然的相似性度量改善类似的多个任务的性能。

    Jul, 2023

  • 具有统计保证的增量学习 - to-learn

    研究了如何针对来自未知元分布的任务类别推断出学习算法，并提出了学习正半定矩阵参数化的岭回归算法，通过应用随机策略来降低岭回归引入的经验错误，以实现在线学习，提高模型性能和泛化性能。

    Mar, 2018

  • 利用镜面下降实现快速适应的多功能损失几何元学习

    利用从相关任务中提取的任务不变的先验知识，元学习是一种原则性的框架，能够在数据记录有限时有效地学习新任务。使用预条件器来处理权重更新的收敛问题是元学习中的一个基本挑战。现有方法通过增强每个任务的训练过程来处理这个挑战。然而，简单的线性预条件器很难捕捉复杂的损失几何结构。本文通过学习非线性的镜像映射来解决这个限制，从而引出一种通用的距离度量，能够捕捉和优化各种损失几何结构，从而促进每个任务的训练。在少样本学习数据集上的数值测试验证了这种方法的优越性和收敛性。

    Dec, 2023

  • 通过学习学习算法实现更灵活的 PAC-Bayesian 元学习

    我们介绍了一个新的框架，使用 PAC-Bayesian 理论来研究元学习方法。该框架相比以往的工作的主要优势在于它允许在任务之间的知识转移方面更加灵活。我们的框架的灵活性使其适用于分析广泛范围的元学习机制，甚至设计新的机制。除了理论贡献外，我们还通过经验证明我们的框架提高了实际元学习机制的预测质量。

    Feb, 2024