AAAIAug, 2022

基于自监督的原始 - 对偶学习用于约束优化

PDF
TL;DR本文研究了如何训练机器学习模型直接逼近受约束优化问题的最优解，提出了一种新的自监督训练方法 Primal-Dual Learning（PDL），该方法不需要预先解决实例集合或优化程序来进行训练和推理，而是同时训练原始神经网络和对偶神经网络来模仿增广 Lagrangian 方法的轨迹，实验证明 PDL 在非线性优化基准测试中表现出极小的约束违规和微小的最优性差距，与 ALM 优化非常接近，并且在最优性差距、约束违规和训练时间方面表现出更好或相似的性能。
machine-learningconstrained optimizationprimal-dual learningaugmented lagrangian methodneural networks
发现论文，激发创造
  • 自适应原始对偶方法的安全强化学习

    在这篇论文中，我们提出了自适应原始 - 对偶（APD）方法用于安全强化学习（SRL），并分析和评估了该算法在实际环境中的性能。结果表明，与常数学习率情况相比，实际 APD 算法在训练过程中具有更好的性能和更稳定的训练结果。

    Feb, 2024

  • 大规模预防性安全约束的自监督学习直流最优潮流

    PDL-SCOPF 是一种自我监督的端到端原始 - 对偶学习框架，用于以毫秒级生成大规模 SCOPF 问题的接近最优解。该框架旨在通过结合传统优化方法和机器学习，缩小大规模优化任务之间的差距。

    Nov, 2023

  • 学习增广算法的原始 - 对偶方法

    通过对原​​始双重算法的扩展，将预测信息加入在线算法中，并在多种特定领域采用新算法，与真实及预测的方案相比，当预测准确时优于任何在线算法，但同时可保持当预测误导时的良好保证。

    Oct, 2020

  • 离线有限制强化学习的原始 - 对偶 - 评论家算法

    本文提出了一种基于 Primal-Dual-Critic 算法的离线约束强化学习模型，该算法不需要像以往模型那样需要浓度和强 Bellman 完备性等假设条件，仅需要集中性和价值函数 / 边际重要性加权实现等假设条件，并且在广泛的函数逼近验证中获得了良好的表现效果。

    Jun, 2023

  • 约束学习问题的近似最优解

    通过对双向上升算法进行特性化，我们在非凸条件下解决了理论与实践之间的差距，揭示了双向学习的先前经验成功，并在公平学习任务中验证了我们的结果。

    Mar, 2024

  • 受限凸最小化问题的原始 - 对偶算法框架

    本文提出了一种原始 - 对偶算法框架，以获得近似解决方案来解决典型的约束凸优化问题，并严格描述了常见结构假设如何影响数值效率。通过选择双重平滑策略和中心点，我们的框架将分解算法、增广 Lagrange 以及交替方向乘子方法作为其特殊情况，并为所有迭代的原始目标残差和原始可行性间隙提供最优收敛速率。

    Jun, 2014

  • 强化学习的双重视角对政策约束的施加

    通过使用一种通用的原始对偶框架，将经典优化和控制理论与基于值和演员 - 评论家强化学习方法结合，本研究旨在统一和整合现有技术，并为学习的策略施加附加约束。构建出的 $ exttt {DualCRL}$ 算法支持各种策略约束的组合，在训练过程中使用可训练的奖励修改实现自动处理，实验证明了该方法的有效性，并为系统设计者提供了多种策略约束的工具箱。

    Apr, 2024

  • 学习带约束优化的深度增广 Lagrangian 方法

    机器学习模型通过训练来预测双重解估计，并从中构建原始估计，以形成双重可行解对。通过采用来自实际增广 Lagrangian 方法的技术，该训练方案可以改进，从而学习高度准确的有约束优化求解器，适用于凸和非凸问题。

    Mar, 2024

  • 原始对偶连续学习：通过拉格朗日乘子实现稳定性和可塑性

    持续学习是一种受限制的学习问题，该研究通过利用记忆方法、拉格朗日对偶性和次优性界限来直 接解决这个问题，并在不同的持续学习基准测试中实验证实了理论结果。

    Sep, 2023

  • 扩大步长和算子学习的加速原始 - 对偶方法在非光滑最优控制问题中的应用

    本论文考虑了一类具有偏微分方程约束条件的非光滑最优控制问题，采用了原始 - 对偶方法，并结合较大的步长或算子学习技术进行加速，其中加速的有效性经过了初步的数值结果验证。

    Jul, 2023