Oct, 2021

少批次高斯过程贝叶斯优化

PDF
TL;DR本文研究如何在小批次情况下，利用高斯过程（Gaussian Process, GP）臂式优化算法进行黑匣子训练优化，假设未知函数在内积核希尔伯特空间（RKHS）中具有较低的范数，并介绍了一种受到有限批量臂式算法启发的批算法，表明它在时间纬度为 T 时，使用 O (log (log T)) 个批次实现了累计遗憾上限 O^*(sqrt (T*gamma_T))，其中 O^*(*) 符号隐藏了与维度无关的对数因子，gamma_T 是与内核相关的最大信息增益，该上限对于几个感兴趣的内核来说几乎是最优的，并且我们的方法可以说是实现这种改进的算法中最简单的方法之一。此外，对于批次数目不依赖于 T 的情况，我们提出了我们算法的修正版本，并描述了遗憾如何受到批量数量的影响，重点关注平方指数和 Matern 内核。通过类似的算法无关下界证明了算法上限几乎是最小化的。
发现论文，激发创造
  • 对于带噪声高斯过程赌博优化的损失下界

    本文考虑如何基于无噪声样本和 Bandit 反馈来顺序优化黑盒函数，提出了一种新的 Gaussian 过程 Bandit 优化算法，并给出了算法无关的简单遗憾和累计遗憾的下界，进一步阐述了随机波动和目标函数的连续性对累计遗憾和简单遗憾的影响。

    May, 2017

  • 高斯过程赌博机的最优顺序简单后悔

    研究了高斯过程二元组和连续性优化问题之间的联系，建立了稳健分布，使用分步方式获得最终收敛结果并得到了一系列引理。

    Aug, 2021

  • 关于标准和鲁棒高斯过程赌博优化的下限

    本文研究在 Reproducing Kernel Hilbert Space（RKHS）中具有有界范数的函数的黑盒优化问题的算法无关下限，并提供了在标准噪声和各类扰动下的决策边界。

    Aug, 2020

  • 赌赢型高斯过程优化：无悔与实验设计

    通过多臂赌博机问题和高斯过程来解决在优化一个未知、嘈杂及难以评估的函数的问题。我们在这个问题上得到了遗憾界，建立了高斯过程优化和实验设计之间的联系。通过实验，我们证明了 GP-UCB 可以优于其他启发式高斯过程优化方法。

    Dec, 2009

  • 高斯过程赌博中的信息增益与遗憾界限

    研究连续性赌博机问题下高斯过程与多种学习算法（GP-UCB、GP-TS）的误差性能，通过独立的贝叶斯和频率学派来分析多项式差距，得出了均价核的特殊化，进一步提高了误差性能。

    Sep, 2020

  • 重尾利润下的贝叶斯优化

    本文通过对高斯过程黑盒优化中噪音模型的研究，提出了一种可用于重尾噪音的、基于核函数的 UCB 算法以及基于核函数近似的贝叶斯优化算法，解决了现有算法在重尾噪音下表现较差的问题，并在人造和真实数据集上验证了算法性能。

    Sep, 2019

  • 高斯过程优化中的自适应草图：可扩展且无悔

    本文提出 BKB，一种近似高斯过程算法，实现了优化带有 Bandit 反馈的函数，具有几乎恒定的迭代复杂度、低维度问题和无方差减少等优点。

    Mar, 2019

  • 误设的高斯过程贝叶斯优化

    本文提出了两种基于高斯过程（GP）方法的算法：一种乐观的 EC-GP-UCB 算法，另一种是一种消除型算法 Phased GP Uncertainty Sampling。本文给出了算法的上界，其依赖于时间长度和核心参数，证明了我们的算法在不知道错误情况下实现了对 ε 的最优依赖性，并证明了 EC-GP-UCB 可以与后悔边界平衡策略相结合。

    Nov, 2021

  • 核化多臂赌博机

    本文提出了两种基于高斯过程的算法 - 改进的 GP-UCB（IGP-UCB）和 GP-Thomson 采样（GP-TS），并给出了相应的遗憾边界，在连续的臂集上解决了随机赌徒问题。当期望奖励函数属于复制核希尔伯特空间（RKHS）时，边界成立。在实验评估和对合成和真实世界环境中现有算法的比较中，突出了所提出策略的优势。

    Apr, 2017

  • 具有确定性观测的高斯过程赌博机的指数遗憾界

    通过分析高斯过程臂带问题，针对确定性观察结果，运用分支限定算法攻击了确定性情况并获得了更快的指数收敛率，显示出后悔随着时间推移而按高概率下降，估计呈现 O（e ^ - tau * t / (ln t)^（d/4））的结果，其中 d 是搜索空间的维度，tau 是目标函数在其全局最大值附近的行为所依赖的常数。

    Jun, 2012