Nov, 2019

无反演深度双层优化的罚函数方法

PDF
TL;DR本文提出了一种新颖的基于罚函数方法的二层优化问题算法，避免了计算 Hessian 逆矩阵的过程，并可轻松处理限制性二层问题。本方法证明收敛性并在大规模深度神经网络二层问题中表现优异，应用于数据去噪、few-shot 学习和训练数据污染问题，结果表明在准确性、运行时间和收敛速度方面均优于基于自动微分和近似求逆的以前提出的方法。
bilevel optimizationpenalty function approachhypergradientdeep neural networkfew-shot learning
发现论文，激发创造
  • 非凸双层优化与一阶随机逼近的惩罚方法

    本文主要研究双层优化的一阶算法，目标函数在两个层次上都是光滑但可能非凸的，变量限制在闭凸集合中。首先通过罚函数方法，研究了双层优化的景观，并建立了罚函数与超目标之间的强连接。接着，提出了一阶算法来优化罚函数，以找到一个 ε- 稳定解。在满足小误差近似条件的情况下，算法以 O (ε^{-3}) 和 O (ε^{-7}) 程度的复杂度达到 ε- 稳定点。在随机预言机的额外假设下，算法的实现可以完全使用单循环方式，并分别达到 O (ε^{-3}) 和 O (ε^{-5}) 的优化复杂度。

    Sep, 2023

  • 基于原始 - 对偶辅助罚函数的耦合约束双层优化方法

    我们的论文研究了具有耦合约束的双层优化问题，并开发了一种名为 BLOCC 的（完全）一阶算法，实现对这一具有挑战性但较少被探索的场景的解决。我们为所提算法建立了严格的收敛理论，并通过使用塞维利亚城市的真实数据，对 SVM 中的超参数选择和交通网络的基础设施规划这两个知名的实际应用进行了有效性验证。

    Jun, 2024

  • 通过极小极大重表达实现高效双层优化

    提出了一种将双层优化问题重新设计成极小极大问题的方法，并采用渐进式梯度下降上升算法来解决该问题，结果表明该算法在降低计算成本的同时，优于现有的基于双层优化的算法。

    May, 2023

  • 用于简单双层优化的加速梯度方法和凸下层问题

    本研究关注简单的双层优化问题，提出一种新的双层优化方法，利用切割平面方法局部近似解决方案集合，应用加速梯度更新来减小上层目标函数，以实现子优性和不可行性错误的非渐近收敛保证。

    Feb, 2024

  • 基于原则的惩罚方法在双层强化学习和 RLHF 中的应用

    通过惩罚的形式引入首个系统的算法框架，解决了新的双层强化学习问题，包括激励设计、逆向强化学习和人类反馈强化学习，通过在 Stackelberg Markov 游戏、人类反馈强化学习和激励设计中的模拟验证了算法的有效性。

    Feb, 2024

  • BiLO：用于 PDE 反问题的双层局部算子学习

    我们提出了一种新的基于神经网络的方法，通过将 PDE 反问题建模为双层优化问题来解决偏微分方程（PDE）的反问题。

    Apr, 2024

  • 放松和惩罚：一种新的混合二进制超参数优化的双层方法

    近年来，双层方法在高维超参数的机器学习模型中的高效估计方面变得非常流行。本文通过适当的罚项，使用等效的连续双层重构方法解决了具有混合二进制超参数的优化问题，并提出了一个框架算法，可在适当的假设下保证提供混合二进制解决方案。此方法的普遍性允许在该框架内安全使用现有的连续双层求解器。我们评估了该方法在回归问题中估计组稀疏结构的性能，结果表明我们的方法优于基于放松和取整的现有方法。

    Aug, 2023

  • 关于过度参数的双层优化问题中的隐性偏差

    探讨了基于梯度的算法对二层次优化的隐含偏差，阐明了冷启动和热启动的两种标准方法，并阐述了这些和其他算法选择（如超梯度逼近）对收敛解决方案或长期行为的影响。此外，还表明了热启动 BLO 获得的内部解可以编码关于外部目标的大量信息，即使外部参数是低维的。

    Dec, 2022

  • 松弛平滑条件下随机双层优化的最优算法

    本文提出了一种新的完全单循环和免除海森矩阵的算法框架，用于随机双层优化，并在标准光滑性假设下提出了更紧密的分析，进而展示了算法的普遍性。

    Jun, 2023

  • LancBiO：基于 Krylov 子空间的动态 Lanczos 辅助双层优化

    通过 Lanczos 方法构建低维近似 Krylov 子空间，解决偏导数求逆问题，提高双层优化问题的效率，并在合成问题和深度学习任务中展示了收敛速度和效率。

    Apr, 2024