Jun, 2024

高成本贝叶斯优化中的悲观异步采样

PDF
TL;DR异步贝叶斯优化通过评估四种嵌入悲观预测的策略扩展了异步优化方法的能力。在模拟环境中，这五种策略与串行采样进行了比较。在某些条件和参数空间维度下，悲观异步策略比等效的串行策略少使用显著数量的实验达到最优实验条件，并且在高维度下对局部最优值的收敛性较不敏感。在考虑更快的采样率之前，本文提出的悲观异步算法可能在高成本实验空间中实现更高效的算法驱动优化。在考虑采样率的情况下，所提出的异步算法能够在实验结果收集之前运行多个实验，从而实现更快的优化。
asynchronous bayesian optimizationparallel operationdisjointed workflowspessimistic predictionshigh-cost experimental spaces
发现论文，激发创造
  • 通过 Thompson Sampling 进行异步并行贝叶斯优化

    设计并分析了变化的经典 Thompson sampling 算法以用于贝叶斯优化，并在设置中对其进行了比较，其中函数评估代价高但可以并行执行，在时间约束下，异步并行 TS 相对于同步和顺序版本具有渐进性更低的后悔，同时在卷积神经网络的超参数调整应用中，比现有并行 BO 算法表现更好，更加简单。

    May, 2017

  • 异步 Q-Learning 中悲观主义的功效

    本文研究异步 Q-learning 的形式，将随机近似策略应用于马尔可夫数据样本，提出一种算法框架，将悲观主义原则纳入异步 Q-learning 中，基于合适的下置信界来惩罚访问不频繁的状态 - 动作对，从而提高了样本效率和适应性。

    Mar, 2022

  • 贝叶斯多尺度乐观优化

    本文介绍了一种将高斯过程置信度边界和树形同时乐观的优化相结合的技术，以消除对收购功能辅助优化的需求，并且相比于其他方法更为有效。

    Feb, 2014

  • 并行贝叶斯优化：基于满足性汤普森采样的时间敏感黑盒优化

    本研究针对时间敏感的黑盒优化问题，提出了满足条件的基于 Thompson 抽样的并行贝叶斯优化（STS-PBO）方法，引入了速率失真理论构建平衡学习所需信息量和次优性的损失函数，并采用 Blahut-Arimoto 算法在每一步计算达到最小信息速率的目标解，实验证明我们的 STS-PBO 方法在同步和异步设置中均优于串行方法和传统 Thompson 抽样的并行贝叶斯优化方法。

    Oct, 2023

  • 异步批次贝叶斯优化，带有改进的本地惩罚

    本文提出了一种基于异步并行贝叶斯优化的方法 PLAyBOOK，可以使用并行计算更高效地进行超参数调优，并通过实证研究表明，异步并行 BO 往往在时钟时间和函数评估次数方面优于同步批量 BO。

    Jan, 2019

  • 基于在线离线实验的策略搜索贝叶斯优化

    使用离线模拟器并应用多任务贝叶斯优化改进在线机器学习系统的方法，较之仅进行在线实验，能够更有效地探索复杂、多维度的策略空间，并通过学习曲线表明离线实验可以显著提高在线实验结果的准确性和优化速度。

    Apr, 2019

  • 随机延迟反馈下的贝叶斯优化

    本文研究了贝叶斯优化在随机延迟反馈问题上的表现，提出了具有子线性遗憾保证的算法，并在批量 BO 和上下文高斯过程老虎机方面做出了新贡献。作者在合成和真实数据集上进行了实验证明了算法的性能。

    Jun, 2022

  • 间歇、异步专家反馈对贝叶斯优化的实用性如何？

    用一种非阻塞的方式引入少量的随机专家反馈来改善贝叶斯优化，进而在自动科学发现中提高探索性能和数据效率。

    Jun, 2024

  • 异步随机凸优化

    本文表明，渐进地，完全异步的随机梯度程 序可以在几乎与标准随机梯度程 序的渐进最优性相同的条件下实现解决凸优化问题的最优（甚至是常数因子）收敛率。大体而言，随机近似方案固有的噪音支配了任何来自异步的噪音。我们还提供了经验性 证据，证明了异步、并行的随机优化方案的强大性能，这表明随机近似问题固有的稳健性允许更快的并行和异步解决方法。

    Aug, 2015

  • 贝叶斯优化中利用并行实验的新范式

    本文提出了两种新的并行贝叶斯优化（BO）范例，可利用设计空间的结构进行分区。其中，一种方法是按照性能函数的级集划分设计空间，另一种方法是利用性能函数的部分可分性结构。数值实验表明，这些方法可显著减少搜索所需时间，提高发现全局最优解（而非局部最优解）的概率。

    Oct, 2022