通过标准蒙特卡洛和准蒙特卡洛方法调整萤火虫算法的参数
本文讲述了一种名为Firefly Monte Carlo (FlyMC)的辅助变量MCMC算法,它只在每次迭代中查询可能较小子集的数据似然,而不像最近的提议一样,即使在渐近极限下也是近似的。实验表明,FlyMC生成的后验样本比常规MCMC快一个以上数量级,从而将MCMC方法应用于先前认为不可行的更大数据集。
Mar, 2014
该论文提出一种基于安全约束的Bayesian优化算法,通过高斯过程先验和上下文变量,在保证安全的前提下实现对机器人算法参数的快速优化。
Feb, 2016
Dragonfly是一个面向Python的开源库,用于可伸缩和强鲁棒贝叶斯优化,包括高维域,结构组合域和并行评估等多项方法,与其他全局优化算法相比具有显著性能提升。
Mar, 2019
该论文提出了一种名为Noisy-Input Entropy Search的信息理论采集函数,该函数基于将鲁棒性目标视为高斯过程的关键洞察,通过考虑输入和测量噪声来解决由于输入参数不确定性带来的问题,在基准测试问题和工程问题中展示了较高的性能表现并优于现有方法。
Feb, 2020
本文采用Morris LHS、Morris和Sobol三种灵敏度分析方法,系统分析协方差矩阵适应进化策略、差分进化、非支配排序遗传算法III和基于分解的多目标进化算法的可调超参数对性能指标的直接和相互作用影响,探究了超参数对采样方法和性能指标的行为,提出了它们之间的作用方式和排序建议。该研究结果可用于调整算法的超参数,以达到更为稳定的性能。
Jul, 2022
本论文提出了混合变量和组合贝叶斯优化(MCBO)的模块化框架,以解决当前 MCBO 研究领域缺乏系统性基准和标准评估的问题,通过在 10 个任务上进行超过 4000 次实验,证明了该框架比现有方法具有更高的性能表现,并揭示了模型拟合和信任区域使用的重要性。
Jun, 2023
大多数优化算法都具有与算法相关的参数,其参数值的设置可以在很大程度上影响所考虑算法的行为。因此,应进行适当的参数调优,以确保用于优化的算法能够表现良好,并且能够足够强大地解决不同类型的优化问题。本文回顾了一些参数调优的主要方法,然后强调了关于参数调优最新进展的重要问题。同时还讨论了一些开放问题,并提出了一些建议,供将来的研究参考。
Aug, 2023
对于优化昂贵的黑盒函数,代理优化算法表现出了一定的潜力。然而,与采样和代理适配相关的超参数对其性能产生了很大影响,这给普及它们带来了挑战。我们研究了超参数对各种代理优化算法的影响,并提出了一种名为Hyperparameter Adaptive Search for SO(HASSO)的方法。HASSO不是一个超参数调整算法,而是一种通用的自适应代理优化算法,通过动态调整自己的超参数同时优化主要目标函数,而无需额外的评估。目标是提高代理优化算法对实践者的可访问性、效果和收敛速度。我们的方法确定并修改了每个问题和代理方法相关的最有影响力的超参数,减少了手动调整的需要,同时不显著增加计算负担。实验结果证明了HASSO在加强各种代理优化算法在不同全局优化测试问题上的性能方面的有效性。
Oct, 2023
针对黑盒模拟器优化问题,本文提出了一种名为目标方差缩减(TVR)的贝叶斯优化方法,通过联合采集函数对控制参数和不确定参数进行同时优化,以有效实现鲁棒优化。该方法在泛函高斯过程模型的基础上,通过闭合形式计算采集函数,展现了探索-开发-精确性的平衡,可适应广泛的非高斯分布,并通过数值实验和针对汽车制动盘的案例研究验证了其优越性能。
Mar, 2024
这篇论文介绍了黑盒优化问题以及贝叶斯优化和替代辅助进化算法两种优化技术的使用方法和差异,还介绍了一种新的基于模型辅助的策略,通过利用未评估的解产生后代,并结合进化算法的群体搜索能力来提高模型辅助优化的效果。实验结果表明,该方法在准确性和效率方面优于主流的贝叶斯优化算法。
Mar, 2024