Jun, 2020

自动学习紧凑的质量感知代理，用于优化问题

PDF
TL;DR通过将优化问题表示为元变量的线性组合，我们学习了大规模优化问题的低维代理模型。通过端到端地训练低维代理模型和预测模型，我们实现了训练和推断时间的大幅减少，同时通过关注优化中的重要变量和在更平滑的空间中学习来提高性能。
optimizationpredictive modelsurrogate modelfeasible spaceinference time
发现论文，激发创造
  • 数据驱动的决策聚焦代理建模

    我们引入了决策为中心的替代建模的概念，以解决实时环境下的计算困难的非线性优化问题。所提出的数据驱动框架旨在学习一个更简单的，例如凸优化模型，该模型经过训练以最小化决策预测误差，该误差定义为原始优化模型和替代优化模型的最优解之间的差异。我们将学习问题作为双层规划问题来进行建模，可以看作是一个数据驱动的逆优化问题，我们采用之前工作中的分解型解决算法进行处理。我们通过涉及常见非线性化学过程（如化学反应器、热交换网络和物料混合系统）的数值实验验证了我们的框架。我们还详细比较了以决策为中心的替代建模和标准的数据驱动替代建模方法，并证明了我们的方法在产生简单的替代模型且预测决策准确性更高方面具有显著的数据效率。

    Aug, 2023

  • 学习困难优化问题：数据生成的视角

    本论文研究了通过机器学习解决 NP 困难问题的可行性，指出了训练数据的易变性及其对模型的影响，并提出了改进的方法来适应这个问题。该方法被应用于非线性、非凸、离散组合问题的求解，取得了有效的结果。

    Jun, 2021

  • 景观替代品：在部分信息下学习数学优化的决策损失

    通过使用可学习的景观代理（Landscape Surrogate）作为优化器的替代品，可以在学习集成优化中加速优化过程，提供相对稠密和平滑的梯度，在合成问题和真实世界问题中实现优化目标，同时降低对优化器的调用次数，并在计算复杂度高的高维问题上优于现有方法。

    Jul, 2023

  • 代理预测优化：学习预测和优化的联合模型

    从观测特征中通过预测模型直接学习最优解的方法被提出，该方法是泛化的，基于学习优化范式，能够提供高效、准确和灵活的解决方案给一系列具有挑战性的预测优化问题。

    Nov, 2023

  • 学习确定性代理关系以实现鲁棒的凸优化问题

    决策导向学习是上下文优化的一种有前景的发展，而我们提出了一个双重隐式层模型，用于训练预测模型以实现对不确定凸二次约束二次规划问题中健壮决策损失的训练。该模型是决策导向学习不确定凸 QCQPs 的有效正则化工具。

    Dec, 2023

  • 预测与优化的对比损失和解决方案缓存

    本文提出了基于噪声对比法的伪损失函数方法和解决缓存方案的方法，以优化组合优化问题的预测和优化方法中的训练时间和准确性的平衡。实验证明，该方法在计算成本的一小部分之内即可与现有技术匹配。

    Nov, 2020

  • 可解释元启发式算法：挖掘代理适应度模型以确定变量重要性

    通过使用基因算法（GA）生成的种群数据训练代理模型，探究代理模型对搜索空间的学习，最终建立 GA 的学习过程和所提出方案的解释，以提高用户对方案的信任和采纳度。

    May, 2022

  • 动态代理切换：在线推荐中因子机配置的高效采样搜索

    研究表明，在大规模在线推荐系统中，采用基于代理模型的最优化算法可以通过动态切换代理模型而对海量的超参数配置进行评估来提高模型指标。

    Sep, 2022

  • 学习代理损失

    本文提出了一种针对非可微和非可分解损失函数的优化方法，使用代理神经网络逐渐逼近真实损失函数，并通过联合双层优化学习预测模型和代理损失函数，实现了高效学习代理损失函数的效果。

    May, 2019

  • SurCo：学习用于组合非线性优化问题的线性代理

    提出一种通过学习线性代理成本来优化实际应用中的组合优化问题的方法，该方法结合了基于梯度的方法的灵活性和线性组合优化的结构，通过 SurCo-hybrid、SurCo-prior 和 SurCo-zero 三种变体的实验结果表明，该方法能够产生低成本的解决方案，具有可比或更快的求解时间。

    Oct, 2022