通过 Thompson Sampling 进行异步并行贝叶斯优化
本研究针对时间敏感的黑盒优化问题,提出了满足条件的基于 Thompson 抽样的并行贝叶斯优化(STS-PBO)方法,引入了速率失真理论构建平衡学习所需信息量和次优性的损失函数,并采用 Blahut-Arimoto 算法在每一步计算达到最小信息速率的目标解,实验证明我们的 STS-PBO 方法在同步和异步设置中均优于串行方法和传统 Thompson 抽样的并行贝叶斯优化方法。
Oct, 2023
为了解决高吞吐量筛选中大规模问题的局限性,该研究提出了一种基于并行和分布式的 Thompson 采样的可伸缩解决方案,实现了大规模并行贝叶斯优化。结果表明,该方法在大规模问题中表现良好,是大规模并行贝叶斯优化的有效解决方案。
Jun, 2017
本文提出联邦 Thompson 采样(FTS)方法,将贝叶斯优化扩展到联邦学习环境中,以协作方式解决黑盒优化问题,用随机傅里叶特征来逼近高斯过程代理模型,采用 Thompson 采样的方式来降低交换的参数数量,并提供了一个理论保证。实验表明 FTS 有效地解决了沟通效率、计算效率和实际性能等问题。
Oct, 2020
本文提出了一种基于稀疏高斯过程模型实现的可扩展 Thompson 抽样算法,通过理论证明和实验验证表明该算法不会损失标准 Thompson 抽样算法的遗憾性能,并成功地应用于高通量分子设计任务等实际问题。
Jun, 2020
探讨多参数模型中 normal distribution 模型下 Thompson sampling 算法的优化问题及其 prior 选择的影响
Nov, 2013
异步贝叶斯优化通过评估四种嵌入悲观预测的策略扩展了异步优化方法的能力。在模拟环境中,这五种策略与串行采样进行了比较。在某些条件和参数空间维度下,悲观异步策略比等效的串行策略少使用显著数量的实验达到最优实验条件,并且在高维度下对局部最优值的收敛性较不敏感。在考虑更快的采样率之前,本文提出的悲观异步算法可能在高成本实验空间中实现更高效的算法驱动优化。在考虑采样率的情况下,所提出的异步算法能够在实验结果收集之前运行多个实验,从而实现更快的优化。
Jun, 2024
文章提供了 Sample-Then-Optimize 批量神经 TS (STO-BNTS) 和 STO-BNTS-Linear 算法,这两种算法可以使用高度表达性的神经网络作为替代模型,绕开了推论参数矩阵的限制,并且在某些情况下具有渐近的无后悔算法证明。
Oct, 2022
本文通过对自适应交通实验的多臂赌博算法、贝叶斯批次赌博算法和流量分配等进行研究,提出了四种新的贝叶斯采样算法(NB-TS,WB-TS,NB-TTTS 和 WB-TTTS)并进行了综合评估。评估结果显示,WB-TTTS 是一个有前途的选择,如果 A/B 测试的惩罚可承受(例如,信息损失),否则 NB-TS 仍然是对于试验具有惩罚考虑的一个强大选择。
May, 2023
改良的 Thompson 抽样方法(TS)在贝叶斯优化(BO)中解决了利用 - 探索困境问题,在通过随机生成和最大化高斯过程(GP)后验样本路径来优先进行探索的同时,引入了 epsilon-greedy 策略来管理其利用,该策略随机在两种极端之间切换,从而平衡了两者的需求,并通过实验证明了该方法的有效性。
Mar, 2024