- QDax:一种质量多样性和基于群体的算法的硬件加速库
QDax 是一个开源库,具有简化且模块化的 API,用于 Quality-Diversity (QD) 优化算法在 Jax 中。该库可用于各种优化目的,从黑盒优化到连续控制。QDax 提供了流行的 QD、神经进化和增强学习算法的实现,支持各 - 基于在线符合预测的正式安全保证的贝叶斯优化
本文提出了一种基于 Bayesian optimization 和在线 conformal prediction 的方法,称为 SAFE-BOCP,可以保证不会选择任何不安全的解决方案,同时具有高灵活性和实验验证。
- 布线引导黑盒优化实现的宏单元布局
本研究提出了一种基于黑箱优化(BBO)框架(称为 WireMask-BBO)的宏单元布局方法,通过使用电线掩蔽引导的贪婪过程进行目标评估。该算法在缩短半长度周边线的同时,大大节约了时间,具有在芯片布局方面提高质量和效率的潜力。
- PyBADS:Python 中快速且鲁棒的黑盒优化
PyBADS 是一个快速、稳健的黑盒优化算法的 Python 实现,可以用于计算建模和模型拟合问题。
- DynamoRep:基于轨迹的人口动态算法用于黑盒优化问题分类
本文提出一种基于简单的描述性统计方法的特征提取方法,用于应用于机器学习模型分析优化算法。通过评估所生成的特征在黑盒优化基准测试套件中分类问题类的任务中的性能,我们得出了 DynamoRep 特征足以识别优化算法运行的问题类别的结论,实验结果 - OpenBox: 通用黑盒优化 Python 工具包
本文介绍了 OpenBox,这是一种黑盒优化工具包,适用于自动机器学习、实验设计和数据库参数调整等应用。OpenBox 工具包的模块化设计使其灵活地部署在现有系统中,并且它实现了易用的界面和可视化,实验结果表明 OpenBox 工具包的效率 - B2Opt: 学习用小预算优化黑盒优化
本文聚焦于改进高维昂贵黑匣子优化的学习优化框架,并提出一种基于廉价代理函数和进化算法机制的新框架 B2Opt,相比黑匣子优化基准测试,B2Opt 能够实现 3 到百万倍的性能提升。
- LEA: 基于学习优化策略的进化算法之外
设计一种可学习的进化算法(LEA)来实现从手工设计的优化策略到学习的优化策略的转变,能够高效地利用目标任务的低保真信息来形成优化策略,以更少的计算成本获得更好的解决方案。
- BO-Muse: 一种人工专家和 AI 协同框架,加速实验设计
本文介绍了 BO-Muse—— 一种新的人工智能团队优化昂贵黑盒函数的方法。该算法让人类专家在实验过程中发挥其领域专业知识的全部潜力,并通过注入新颖性和寻找弱点来打破认知固化所引发的过度开发。在合理的假设下,我们证明了该算法以次线性速率收敛 - evosax: 基于 JAX 的进化策略
通过 GPU 加速计算及发布基于 JAX 的 evosax 库支持的 30 种演化式算法及硬件优化,本文探究了深度学习和演化式优化间的结合,以进一步推动黑箱优化算法的发展。
- 蒙特卡罗树下降用于黑盒优化
本文研究了在黑盒优化中通过引入 Monte Carlo Tree Search 方法和结合具备随机搜索功能和高斯过程的新下降方法等技术,以实现更快速的优化。实验结果表明,所提出的方法在各种有挑战性的基准问题上表现优越。
- 深度强化学习的可扩展有限差分方法
本研究提出了一种将旧数据运用于有限差分算法中的新方法,从而产生出一种可伸缩且避免空闲时间或浪费计算的算法,解决了分布式黑盒优化算法的瓶颈问题。
- 基于 Monte Carlo Tree Search 的高维贝叶斯优化变量选择
本文介绍了一种基于 Monte Carlo Tree Search 的变量选择方法 MCTS-VS,通过迭代选择和优化一组变量来构建低维空间,并使用任何 Bayesian optimization 算法在该空间内进行优化,经过高维合成函数和 - 混合特征空间已知约束条件下的贝叶斯优化树集成核函数
本文提出采用树集成的核解释作为高斯过程先验以获得模型方差估计,并开发了与采集函数兼容的优化公式来同时解决使用树集成进行黑盒优化的两个主要挑战,从而在连续 / 离散特征以及混合特征的空间中,优于竞争方法。
- 黑盒优化的生成式预训练
BONET 是一个使用离线数据集为基础,训练一个新的黑盒优化器的生成框架,采用单调转移启发式策略,实现从低保真度到高保真度的采样,在 Design-Bench 中的实验结果显示,BONET 使用一个因果掩码转换器的实例,在平均排名上表现最佳 - 基于类别变量的黑盒优化的傅里叶表示
该研究提出了一种基于代理模型和傅立叶展开的算法,用于优化纯分类型变量的黑盒函数,并在 RNA 序列优化和设计问题中取得了竞争性或优越性能,显著提高了计算成本和样本效率。
- 通过多次评估少量独特候选项扩展高斯过程优化
通过限制历史点的数量,经过改进后的高斯过程后验可以用于更有效的黑盒优化,这对高转换成本的 GP-Opt 实际应用,如湿实验中的化学物品切换和超参数优化中的数据 / 模型加载特别有用。
- ICML语言模型即服务的黑盒调整
本文提出黑盒优化框架来通过无导数优化预定义的任务提示,从而在使用预训练语言模型的服务化环境中实现更好的性能。在随机生成的子空间中进行优化,使得黑盒优化框架可以在 RoBERTa 上优化任务提示,并在少量标记样本上显着优于手动提示和 GPT- - 误设的高斯过程贝叶斯优化
本文提出了两种基于高斯过程(GP)方法的算法:一种乐观的 EC-GP-UCB 算法,另一种是一种消除型算法 Phased GP Uncertainty Sampling。本文给出了算法的上界,其依赖于时间长度和核心参数,证明了我们的算法在不 - 在线决策的稀疏变分高斯过程的条件处理
本文提出了一种名为 OVC 的在线变分条件方法,可以有效地将 SVGPs 与更先进的黑盒优化采集函数配对,即使是在非高斯似然的情况下也能实现,这样一来就可以实现高效的条件并行计算,提供了具有吸引力的性能。