区间约束CP和进化算法的混合优化困难问题
本文介绍一种基于多臂赌博和 Lipschitz 优化的多次启动策略,持续估计每个算法实例的潜在性能,并动态地向有可能收敛于最优解的实例分配资源,实验证明该方法在实践中表现良好,并且需要的目标函数评估次数只是理论上建议的平方增加的对数增加。
Jan, 2014
本文通过引入新的后悔分解和Bregman散度的泛化来对在线学习的两个算法进行分析,得出了较为简洁的结论,提出了对于复合目标的算法,并提供了一种细化的算法族。
Sep, 2017
本文探讨了在分布式多代理网络上定义的一类有限和凸优化问题,通过开发一种新的随机渐进梯度算法(RGEM),解决了无需精确梯度评估,但可以实现最优复杂度界限的问题,同时维持了最佳的随机复杂度(直至一定的对数因子),作者同时基于Nesterov的加速梯度方法开发了算法。
Nov, 2017
通过理论分析和实验验证,论文提出必须在启发式优化算法中明确规定如何处理超出范围解的策略,这个问题对于Differential Evolution等算法的表现,扰动性和种群多样性有显著的影响,尤其是在高维问题中。建议该领域正式采纳这一算法部件的概念,并在算法描述中规定,以保证结果可复制和更深入地了解其整体影响,以此自动化算法设计。
Mar, 2022
通过使用随机TR和ARC方法,我们可以在同时提供Hessian矩阵、梯度和函数值的不精确计算的基础上,减少每次迭代的传播开销,从而获得与之前研究中的准确计算同级别的迭代复杂度以实现近似二阶最优性,并通过有限和最小化问题中的随机采样技术满足不精确性的温和条件。数值实验支持这些发现,并表明我们的算法在进行相同或相似次数的迭代时,每次迭代所需的计算开销较当前的二阶方法更少。
Oct, 2023
该研究论文通过引入一种名为ALEXR的高效的单循环原始-对偶块坐标近端算法,探讨了解决凸性和强凸性cFCCO问题的收敛速度,以及包括group distributionally robust optimization (GDRO)等在内的广泛应用中,改进前沿研究的最佳速度并解决更具挑战性的非光滑问题。
Dec, 2023
该论文探讨了针对约束优化问题,采用深度优先搜索算法以在前n个解中寻找最优或近似最优解,并提出了一种基于MCTS的新型启发式神经网络算法,结合编码约束优化问题和利用图神经网络聚合变量和约束信息的方法,实验结果表明该方法能够快速找到初始的5个可行解中与最优解间隔小于17.63%的解,并在应用于约束满足问题时,与最先进方法相比,搜索节点数减少不到5%。
Dec, 2023
优化离散参数存在约束问题,我们使用带有温度的随机S型函数,并提出了新的自适应梯度方法CONGA。通过一个个体群体来搜索最优解,每个个体根据'环境'的梯度变化,并由具有不同退火进程的两个温度参数来描述。未经适应的个体消亡,而最优个体繁殖,其结果是定向的进化动力学。我们利用著名的背包完全装配(0-1 KP)问题来说明所提出的方法。
Jan, 2024
对于具有二次约束的无界整数规划问题,该研究通过对 MI 凸二次目标函数的经验评估,比较了 CPXLE 解算器和最先进的 MI 特殊进化策略在处理约束问题上的性能,结果表明黑盒和白盒解算器在满足一定条件下具有竞争力。
May, 2024