文章主要介绍了一个新兴的自动化动态算法配置(DAC)领域,总结了相关先前的研究成果和现有的解决方法,并进行了以进化优化、人工智能规划和机器学习为例的实证案例研究。
May, 2022
算法优化领域已经通过自动配置算法参数的方法显著进展。本文深入研究了算法配置问题,重点优化针对特定决策 / 优化问题实例的参数化算法。我们提出了一个全面的框架,不仅形式化了算法配置问题,还概述了利用机器学习模型和启发式策略解决该问题的不同方法。本文将已有的方法论分为按实例和按问题的方法,并区分了模型构建和部署的离线和在线策略。通过综合这些方法,我们旨在为理解和应对算法配置中固有的复杂性提供清晰的路径。
Mar, 2024
本文提出了一种名为多智能体 DAC 的算法调整范例,利用多智能体强化学习算法解决了动态算法配置中存在多种配置超参数的问题,并与其它启发式规则、多臂赌博机和单智能体强化学习相比取得了更好的性能,同时释放了环境作为 MARL 算法测试的基准。
Oct, 2022
该论文介绍了关于算法配置问题的各种变体和方法,提出了用于描述算法配置问题和配置方法特征的分类法,并在此基础上回顾了已有的算法配置文献,提出了各种配置方法的设计选择,以及针对不同问题变体的对比方法,最终总结了行业中算法配置的现状并为未来研究提供了方向。
Feb, 2022
研究自动化算法配置的困境及解决方案,提出了避免实验设计问题和达到最新性能的最佳实践,并介绍了可处理多个问题的工具 GenericWrapper4AC。
May, 2017
提出一种基于预测模型的算法配置方法,利用算法在先前基准测试的性能信息来对新类型的基准测试进行热启动配置,实验证明相较于现有的算法配置方法,该方法在优化硬组合问题求解器时可大幅提升速度(最高可达 165 倍),同时可以在相同的计算预算下找到更好的配置。
Sep, 2017
本文探讨了自动算法配置 (AAC) 中的性能估计问题,首先证明了在实际设置中的通用最佳性能估计器,然后分别考虑了有限和无限配置空间,建立了估计误差的理论界限,并在四个涉及不同问题领域的算法配置情景中进行了广泛的实验验证。此外,本文还提出了加强现有 AAC 方法的见解。
Nov, 2019
提出了一种名为 CURE 的方法,通过识别因果关系的相关配置选项,使优化过程在较小的搜索空间中运行,从而加快了机器人性能的优化。
Feb, 2024
通过动态算法配置和强化学习,可以使用多个启发式方法进行规划,并考虑内部搜索动态,以选择最有用的启发式方法,在一定程度上可以大幅提高启发性搜索的性能。
Jun, 2020
研究了在给定一组配置和一个大的数据集随机划分为训练和测试集的情况下,如何在训练集上训练以获取近似最高测试精度的最佳配置,使用置信区间(CI)-based 渐进采样和剪枝策略,能够保证小的精度损失。与使用完整数据寻找精确最佳配置相比,我们的解决方案实现了超过两个数量级的速度提升,而返回的顶部配置具有相同或接近的测试准确性。
Nov, 2018