Apr, 2024

离散贝叶斯优化的连续放松

PDF
TL;DR通过连续松弛目标函数，我们提出了一种在贝叶斯优化中高效优化离散数据的方法，并证明了推理和优化是可计算的。我们特别考虑了少量观测和严格预算的优化领域，以优化昂贵的生物化学属性评估中的蛋白质序列。我们的方法具有两个优势：将问题在连续设置中处理，并直接融入可用的序列先验知识。具体来说，我们利用了问题领域上可用和学习到的分布来加权 Hellinger 距离，从而得到一个协方差函数。我们证明了得到的采样函数可以通过连续或离散优化算法进行优化，并在两个生物化学序列优化任务上进行了实证评估。
发现论文，激发创造
  • 高维贝叶斯优化离散序列的调查与基准

    通过统一的框架和标准化的黑盒函数，针对化学和生物学的实际应用领域，该论文研究了贝叶斯优化的高维优化方法和技术难点，并提供了易于拓展的软件库，以方便实践者更好地应用于离散优化问题。

    Jun, 2024

  • 通过核密度估计的未知连续上下文分布的随机贝叶斯优化

    使用贝叶斯优化方法，利用核密度估计来在线学习连续环境变量的概率密度函数，提出了两个算法来优化函数在未知分布下的期望，实验证明这两个算法的效果有效。

    Dec, 2023

  • 信息论安全贝叶斯优化

    通过提出一种信息论安全探索准则，本研究结合贝叶斯优化采样函数，基于高斯过程推断直接识别最具信息价值的安全参数进行评估，从而实现连续领域的可行性约束优化。

    Feb, 2024

  • 昂贵积分的贝叶斯优化

    提出一种用于贝叶斯优化的算法，优化对象为求和或积分形式、具有难以评估的函数，适用于机器学习超参数调优、模拟优化、随机实验设计等领域，该方法在单次函数评估处于预算内时具有平均情况最优性，通过解决信息价值优化问题达到了一步最优性，同时也在数值实验中表现优良。

    Mar, 2018

  • 混合空间上的贝叶斯优化

    本文提出了一种新颖的混合贝叶斯优化方法，通过扩散核对离散和连续变量建模，证明了其拥有普适逼近性质，并在合成数据和六个不同领域的实验中证明了其显著优于现有方法的优越性。

    Jun, 2021

  • 基于贝叶斯优化的分类和类别特定连续输入

    为优化分类和类别特定连续变量定义的真实世界函数，提出了一种将问题规定为多臂赌博问题的新方法，其中每个类别对应于一个臂，其奖励分布以连续变量中的目标函数最优点为中心。

    Nov, 2019

  • 密集 CRF 的高效连续松弛方法

    本研究论文提出了一种使用 Frank-Wolfe 算法来通过优化凸二次规划松弛问题的方法，此外还开发了一种分治方法来计算线性规划松弛的次梯度，以实现更好的能量最小化，与常用的均值场算法相比，本文研究表明连续松弛技术有更好的结果。

    Aug, 2016

  • 对组合优化问题的连续放松控制

    该论文研究了在相对密集的图形上，物理启发的图神经网络（PI-GNN）求解器的性能问题，并通过引入新的惩罚项和连续松弛退火策略来解决这些问题，以取得更好的组合优化问题的解决效果。

    Sep, 2023

  • 元强化学习和贝叶斯优化设计生物序列

    本文通过 MetaRLBO，提出了一种对于生物序列的加速设计方法，使用 Meta-Reinforcement Learning 训练自回归生成模型，以 Bayesian Optimization 为辅助选择出有前途的序列，获得较强的鲁棒性和相对具有竞争力的结果。

    Sep, 2022

  • 使用去噪自编码器加速生物序列设计的贝叶斯优化

    LaMBO 是一种新的 Bayesian optimization 方法，采用了联合训练的方法，结合 Denoising Autoencoder 和多任务 Gaussian Process Head 进行多目标优化，以实现在离散高维空间中进行生物序列设计。

    Mar, 2022