使用高斯过程模型进行贝叶斯优化，以及基于核的奖励优化方法的研究，其中采用从分布中抽取的随机样本进行域的探索。通过该随机探索方法，我们证明其可以实现最优的误差率，并且我们的方法在无噪声和有噪声环境下均具有理想的后悔保证，同时避免了昂贵的无凸优化问题，解决了一个 COLT 开放性问题。

Oct, 2023

本文提出一种基于经验贝叶斯的方法，估计高斯过程先验，并构建无偏估计的后验，在线实验中达到近似零遗憾边界。

Nov, 2018

通过多臂赌博机问题和高斯过程来解决在优化一个未知、嘈杂及难以评估的函数的问题。我们在这个问题上得到了遗憾界，建立了高斯过程优化和实验设计之间的联系。通过实验，我们证明了 GP-UCB 可以优于其他启发式高斯过程优化方法。

Dec, 2009

高斯过程最大上界置信（GP-UCB）是一个优化带噪声观测的黑盒函数的最受欢迎的方法之一，本文首次肯定地回答了在贝叶斯优化文献中的一个重要开放问题，即 GP-UCB 的遗憾是否是最优的，并提出了在目标函数具有某种平滑性质时 GP-UCB 的简单和累积遗憾的新上界，与具有相同平滑性质的优化函数的已知最小 - 最大下界匹配。

Dec, 2023

本研究从基于频率的核方法角度探讨黑盒优化，提出了一种新的批处理优化算法，可以同时优化收购函数并从整个批次中选择点，理论上为无噪声和扰动设置导出了遗憾界限，同时分析了对贝叶斯优化的鲁棒初始化所需的敌对遗憾的性质。

May, 2019

通过分析高斯过程臂带问题，针对确定性观察结果，运用分支限定算法攻击了确定性情况并获得了更快的指数收敛率，显示出后悔随着时间推移而按高概率下降，估计呈现 O（e ^ - tau * t / (ln t)^（d/4））的结果，其中 d 是搜索空间的维度，tau 是目标函数在其全局最大值附近的行为所依赖的常数。

Jun, 2012

对于一维高斯过程先验和高斯采样噪声下的贝叶斯优化问题，本研究提供了一个理论分析，证明在核函数的一些温和技术假设下，到时间 T 时最好的累积遗憾表现为 Ω(√T) 和 O (√TlogT)，这给出了一个紧密的特征，证明了现有界限的接近最优性 (对于 SE 核)，同时证明了它们对于 Matern 核 (nu>2) 是严格的次优的。

May, 2018

本文从贝叶斯优化和基于树的乐观优化结合的角度出发，探讨了在无噪声环境中提高后悔度边界的可能性，并提出了 BOO 算法，该算法在假设目标函数从具有 Matern 内核且平滑度参数 ν>4+D/2 的高斯过程中提取样本的情况下，可以实现指数级后悔度边界。实验结果表明，BOO 算法在优化各种合成函数和机器学习超参数调整任务方面，均优于基线算法。

May, 2021

本文通过对高斯过程黑盒优化中噪音模型的研究，提出了一种可用于重尾噪音的、基于核函数的 UCB 算法以及基于核函数近似的贝叶斯优化算法，解决了现有算法在重尾噪音下表现较差的问题，并在人造和真实数据集上验证了算法性能。

Sep, 2019

本文解决了若干向来未解的开放性问题，提供了超线性收敛速度，证明了 GP-UCB 算法在大多数流行核函数上具有最优回报，且证明了简化版本的自标准化集中不等式和超鞅技术是关键技术工具。

Jul, 2023