贝叶斯分位数和期望值优化

Jan, 2020

Bayesian Quantile and Expectile Optimisation

Victor Picheny, Henry Moss, Léonard Torossian, Nicolas Durrande

TL;DR本文提出了基于新的 Bayesian quantile 和 expectile 回归的变分模型，以及基于最大熵搜索和 Thompson 采样的两种 BO 策略，用于优化黑盒函数（特别是在异方差噪声设置下），并且在实验中表现出比现有方法更好的效果。

Abstract

bayesian optimisation (BO) is widely used to optimise stochastic black box functions. While most BO approaches focus on optimising conditional expectations, many applications require risk-averse strategies and alternative criteria accounting for the distribution tails need to be consid

bayesian optimisation quantile regression expectile regression max-value entropy search thompson sampling

发现论文，激发创造

BORE: 基于密度比率估计的贝叶斯优化

将 expected improvement 的计算转化为二分类问题，以避免分析可观测性和提高 Bayesian optimization 的效率和适用性。

Feb, 2021

分布稳健的贝叶斯积分优化

本研究针对具有分布不确定性的贝叶斯积分优化问题使用分布鲁棒优化视角，提出了一种基于后验抽样的算法（DRBQO），旨在最大化最对抗分布下的预期目标，并通过贝叶斯遗憾度量其理论收敛性。我们在合成和真实世界问题中展示了我们提出的框架的实证有效性。

Jan, 2020

通过核密度估计的未知连续上下文分布的随机贝叶斯优化

使用贝叶斯优化方法，利用核密度估计来在线学习连续环境变量的概率密度函数，提出了两个算法来优化函数在未知分布下的期望，实验证明这两个算法的效果有效。

Dec, 2023

非齐方树状贝叶斯优化

本研究提出了一种新的优化方法，使用具有层次参数学习的先验模型来解决贝叶斯优化中非平稳性问题，大大改善了自动机器学习和采矿勘探等众多领域中的表现。

Oct, 2014

伪贝叶斯优化

采用拟贝叶斯优化的框架，通过利用简单的局部回归和随机化先验构建来量化不确定性，并保证收敛性，有效地优化高维度的综合实验、超参数调整和机器人应用的例子中胜过最先进的基准测试。

Oct, 2023

重尾利润下的贝叶斯优化

本文通过对高斯过程黑盒优化中噪音模型的研究，提出了一种可用于重尾噪音的、基于核函数的 UCB 算法以及基于核函数近似的贝叶斯优化算法，解决了现有算法在重尾噪音下表现较差的问题，并在人造和真实数据集上验证了算法性能。

Sep, 2019

基于原则的偏好贝叶斯优化

通过使用偏好反馈，我们构建了黑盒函数的置信区间，并提出了一种乐观算法，该算法具有有效的计算方法，并且在累积遗憾方面具有信息理论上的界限，从而使我们能够设计出具有收敛速率保证的估计最佳解决方案的方案。实验结果表明，我们的方法在高斯过程、标准测试函数和热舒适优化问题上都能稳定地达到更好或者有竞争力的性能，相比现有的启发式方法而言，我们的方法不仅拥有遗憾界限或收敛性的理论保证。

Feb, 2024

贝叶斯优化教程

本文介绍了贝叶斯优化的基本工作原理，包括高斯过程回归和三种常见的采集函数；讨论了高级技术，包括并行运行多个函数评估，多保真度和多信息源优化，多任务的贝叶斯优化，并探讨贝叶斯优化软件和未来研究方向。

Jul, 2018

具有无偏高斯过程超参数估计的可证明高效的贝叶斯优化

本论文提出了一种新的使用多臂老虎机技术的贝叶斯优化方法，采用新型训练损失函数进行高斯过程超参数估计，以确保无偏估计，从而使其即使在未知真实超参数的情况下，也可以亚线性地收敛到目标函数的全局最优点。

Jun, 2023

贝叶斯优化的泊松过程

基于泊松过程的贝叶斯优化方法，提出了一种基于排名的替代模型。通过两个定制的获取函数，解决了传统方法中的计算成本高和对噪音敏感的问题，并在模拟和真实世界基准测试中证明了其有效性。

Feb, 2024