ICLRFeb, 2023

M-L2O：面向可泛化的学习优化 —— 通过测试时间的快速自适应

PDF
TL;DR该论文研究了学习优化（L2O）在新领域中的迁移性问题，并提出了一种元训练的 L2O 优化器解决方案，可以快速适应新任务。在经典任务上的实验证明了该方案的可行性。
learning to optimizel2ooptimization methodmeta-trainingrapid task adaptation
发现论文，激发创造
  • 学习优化：入门与基准

    本文是第一篇关于连续优化问题的、全面的学习优化（L2O）综述和基准论文。我们对现有方案和研究方向进行分类，并对若干最具代表性的优化问题进行了基准测试。同时，我们在 Open-L2O 包中发布了我们的实现和数据，以进行可重复的研究和公平的基准测试。

    Mar, 2021

  • 构建数学结构以实现学习优化

    本文提出了一种基于数学原理的 L2O 模型，通过数值模拟验证了该模型的理论发现并展示了其超越普通 L2O 模型的优越性。

    May, 2023

  • 训练更强的基线学习优化

    本研究采用了训练技巧来改善 L2O 模型的实际表现。我们提出了一种渐进式训练方案来缓解 L2O 模型中截断偏差和梯度爆炸之间的困境，并利用离策略模仿学习来引导 L2O 学习。结果表明，即使是最简单的 L2O 模型也可以通过这种改进的训练技巧在许多任务上胜过最新的复杂 L2O 模型。

    Oct, 2020

  • 符号学习优化：追求可解释性和可扩展性

    该论文证明了引入符号回归到 Learning to Optimize (L2O) 中的概念可以避免可扩展性和可解释问题，提出了一种基于符号回归的 L2O 模型并证明了其有效性。

    Mar, 2022

  • 学习优化：连续和混合整数优化的教程

    学习优化（L2O）介于传统优化和机器学习的交叉点，利用机器学习的能力增强传统优化技术，通过考虑实际应用的前提和优化问题的结构，提供了一个综合指南，加速优化算法并适应更加真实的应用。

    May, 2024

  • 安全学习的凸优化

    该研究提出了一种 Safe-L2O 框架，以获得优化算法和数据驱动算法的优势，该框架具有收敛保证且利用机器学习实现快速的数据驱动算法。

    Mar, 2020

  • B2Opt: 学习用小预算优化黑盒优化

    本文聚焦于改进高维昂贵黑匣子优化的学习优化框架，并提出一种基于廉价代理函数和进化算法机制的新框架 B2Opt，相比黑匣子优化基准测试，B2Opt 能够实现 3 到百万倍的性能提升。

    Apr, 2023

  • 从学习优化到学习优化算法

    通过识别经典算法服从的关键原则并将其用于优化学习（L2O）中，我们提供了一个综合设计流程，以数据、架构和学习策略为考虑因素，从而实现经典优化与 L2O 之间的协同，形成了学习优化算法的理念。通过设计一种新的增强学习 BFGS 算法并提供数值实验证明其在多种测试环境中的适应性，我们展示了这些新原则的成功。

    May, 2024

  • 多目标优化的多梯度学习优化

    通过引入自动学习范式，我们介绍了一种新的自动优化多目标优化问题的学习方法，并提出了一种多梯度学习优化（ML2O）方法，通过自动学习多个梯度以更新方向。通过引入新的守卫机制，我们提出了一种守卫多梯度学习优化（GML2O）方法，并证明了 GML2O 生成的迭代序列收敛到一个 Pareto 临界点。实验结果表明，我们学习的优化器在训练多任务学习神经网络方面胜过手动设计竞争对手。

    Nov, 2023

  • 无需参数的在线测试时间自适应

    为了使现有的视觉模型适应于不同的下游场景，本文探讨了在线测试时间自适应方法在各种真实世界场景下的表现，并针对该方法的局限性提出了一种特别保守的方法 —— 使用 LAME 目标来解决问题，并通过高效的凸凹过程求解该目标，从而使其在场景中表现更佳。

    Jan, 2022