Jan, 2020

分布稳健的贝叶斯积分优化

PDF
TL;DR本研究针对具有分布不确定性的贝叶斯积分优化问题使用分布鲁棒优化视角，提出了一种基于后验抽样的算法（DRBQO），旨在最大化最对抗分布下的预期目标，并通过贝叶斯遗憾度量其理论收敛性。我们在合成和真实世界问题中展示了我们提出的框架的实证有效性。
bayesian quadrature optimizationdistributional uncertaintymonte carlo estimationdistributionally robust optimizationbayesian regret
发现论文，激发创造
  • 分布鲁棒贝叶斯优化

    本文通过使用最大平均偏差（MMD）来度量分布转移，研究了分布鲁棒优化的问题，在零阶、有噪音的优化设置下，提出了一种新颖的分布鲁棒贝叶斯优化算法（DRBO）。实验证明我们的算法在多个设置下能够获得次线性的稳健后悔的实现。

    Feb, 2020

  • 基于原则的偏好贝叶斯优化

    通过使用偏好反馈，我们构建了黑盒函数的置信区间，并提出了一种乐观算法，该算法具有有效的计算方法，并且在累积遗憾方面具有信息理论上的界限，从而使我们能够设计出具有收敛速率保证的估计最佳解决方案的方案。实验结果表明，我们的方法在高斯过程、标准测试函数和热舒适优化问题上都能稳定地达到更好或者有竞争力的性能，相比现有的启发式方法而言，我们的方法不仅拥有遗憾界限或收敛性的理论保证。

    Feb, 2024

  • BORE: 基于密度比率估计的贝叶斯优化

    将 expected improvement 的计算转化为二分类问题，以避免分析可观测性和提高 Bayesian optimization 的效率和适用性。

    Feb, 2021

  • 贝叶斯分位数和期望值优化

    本文提出了基于新的 Bayesian quantile 和 expectile 回归的变分模型，以及基于最大熵搜索和 Thompson 采样的两种 BO 策略，用于优化黑盒函数（特别是在异方差噪声设置下），并且在实验中表现出比现有方法更好的效果。

    Jan, 2020

  • 基于贝叶斯优化的多样解发现

    ROBOT 使用排序和信任区间的方法来找到不同的高性能解决方案，相较于寻找单一最佳解决方案，只需要进行少量的额外函数评估。

    Oct, 2022

  • 任意不确定输入的高效鲁棒贝叶斯优化

    本文介绍了一种新颖的稳健贝叶斯优化算法 AIRBO，它可以在任意输入不确定性下有效地识别表现稳定良好的稳健最优解。我们的方法通过在高斯过程中使用最大均值差异 (MMD)，直接建模任意分布的不确定输入，并通过 Nystrom 近似加速后验推理，从而在 MMD 估计误差下建立了严格的理论遗憾界，并在合成函数和实际问题上进行了大量实验，证明了我们的方法可以处理各种输入不确定性并实现最先进的性能。

    Oct, 2023

  • 伪贝叶斯优化

    采用拟贝叶斯优化的框架，通过利用简单的局部回归和随机化先验构建来量化不确定性，并保证收敛性，有效地优化高维度的综合实验、超参数调整和机器人应用的例子中胜过最先进的基准测试。

    Oct, 2023

  • 输入噪声下的稳健多目标贝叶斯优化

    本文提出了一种新的多目标贝叶斯优化方法，旨在解决存在输入噪声的多目标优化问题，通过优化多维风险价值 (MVaR) 来产生适应噪声并能够满足多个指标要求的最优设计。

    Feb, 2022

  • 利用随机先验网络进行高维输出的可伸缩贝叶斯优化

    本文提出了一个深度学习框架，基于具有随机先验的 bootstrap 整合的神经体系结构，用于贝叶斯优化和连续决策。该框架能够在高维输出的情况下逼近设计变量和感兴趣数量之间的函数关系，测试表明该方法在优化轮毂叶片的形状等高度复杂的任务中具有明显的优越性。

    Feb, 2023

  • 基于仿真的贝叶斯优化

    模拟基于贝叶斯优化 (SBBO) 是一种用于优化黑盒函数的新方法，只需要通过基于采样的后验预测分布进行访问。该方法允许在涉及组合空间和离散变量的情况下使用适用于组合空间的概率代理模型。在组合优化的应用中，我们通过使用不同的代理模型在实证上证明了 SBBO 方法的有效性。

    Jan, 2024