- 通过概率重参数化实现离散和混合空间的贝叶斯优化
利用概率重参数化方法(PR)在混合或高基数离散搜索空间中最大化收购功能(AF),可显著提高贝叶斯优化(BO)的优化表现,并且能够很自然地扩展到具有多个目标和黑盒约束的设置。
- 具备强韧性的贝叶斯优化与强化学习习得的获取函数
本文介绍了一种基于强化学习技术的数据驱动式采样函数选择策略,称为强化学习辅助贝叶斯优化(RLABO),用于高昂的黑盒优化问题,取得了具有竞争力和鲁棒性的优化效果。
- 使用改进的概率提高选择技术的多目标贝叶斯全局优化并行算法
本文提出了五种多目标贝叶斯全局优化的概率提高算法 (q-PoI),适用于多个解点的批量评估,并针对这些算法的位置依赖行为进行了探讨,并通过实证实验证明了两种贪婪型的 q-PoIs 在低维问题上的有效性以及两种探索性的 q-PoIs 在高维问 - 混合特征空间已知约束条件下的贝叶斯优化树集成核函数
本文提出采用树集成的核解释作为高斯过程先验以获得模型方差估计,并开发了与采集函数兼容的优化公式来同时解决使用树集成进行黑盒优化的两个主要挑战,从而在连续 / 离散特征以及混合特征的空间中,优于竞争方法。
- 多目标贝叶斯优化中使用单一代理和多代理的比较
本文提出在多目标优化中使用多模型代理建模的方法,克服了单模型代理建模方法存在的缺点,并使用广义极值分布逼近标量化函数分布, 在标准基准测试和实际优化问题上与现有方法进行比较,结果表明了该策略的潜力。
- ICLR$π$BO:基于用户信念增强收敛函数的贝叶斯优化方法
提出了一种基于先验置信度的并将其纳入概率分布中的 PiBO (Bayesian optimization 的改进版),该算法可用于机器学习中的超参数优化,可以提高其效率并显著减少时间成本。
- 基于贝叶斯优化的多目标混合变量问题
本研究提出了一种混合变量、多目标贝叶斯优化框架 MixMOBO,可高效找到混合变量设计空间的最优帕累托前沿,同时确保多样解,结果表明 MixMOBO 在合成问题上表现良好。
- AAAIProxyBO: 通过零成本代理加速贝叶斯优化的神经结构搜索
本论文提出了 ProxyBO,一种利用零成本代理加速神经架构搜索的高效贝叶斯优化(BO)框架,通过我们设计的新颖获取函数结合动态影响的零成本代理,以及利用一般化能力测量估计代理在每个迭代期间的适应性,ProxyBO 在三个公共基准测试任务中 - MCDAL:用于主动学习的最大分类器差异性
提出了一种新的主动学习框架 MCDAL,利用多个分类器的预测不一致性来进行样本采集,使用分类器不一致性作为主动学习采集函数,优于 GAN 等现有方法。
- BORE: 基于密度比率估计的贝叶斯优化
将 expected improvement 的计算转化为二分类问题,以避免分析可观测性和提高 Bayesian optimization 的效率和适用性。
- AAAI一个基于信息论的框架,用于统一主动学习问题
本文提出了一个信息理论框架,用于统一主动学习问题:水平集估计(LSE)、贝叶斯优化(BO)及其广义变体。首先介绍了一种新颖的主动学习标准,该标准包含了现有的 LSE 算法并在连续输入域的 LSE 问题中达到了最先进的性能。然后,通过利用 L - 基于贝叶斯优化的无线资源管理:开环功率控制
本文介绍了贝叶斯优化和高斯过程在无线电资源管理领域的应用,并探讨了一些高级主题,如采取函数的选择和动态性能函数的优化。最后,结合 5G 网络中上行开环功率控制问题的实例,展示了贝叶斯优化和高斯过程的卓越性能。
- KDD缺失输入的贝叶斯优化
本文提出了一种处理遗失输入的贝叶斯优化方法,通过找到每个遗失值的概率分布,从而对缺失值进行修正,并使用新的基于 Upper Confidence Bound(UCB)的收购功能来建议下一个代价低的点进行功能评估,证明了该方法的有效性。
- IJCAI随机高斯过程上置信区间的贝叶斯优化
为了提高贝叶斯优化的性能,我们开发了一种改进的高斯过程 UCB 采集函数。通过从一个分布中采样探索开发权衡参数,我们证明这允许期望的权衡参数能更好地适应问题而不会影响函数贝叶斯遗憾的约束,并提供结果表明我们的方法在一系列真实和合成问题中比 - 基于空间扭曲的贝叶斯优化中融入专家先验知识
本文提出了一种利用先前知识预测优化函数最优解的方法,在高概率区域扩展搜索空间,低概率区域收缩搜索空间的基础上,将先验分布融入高斯过程的函数模型中,通过重新定义内核矩阵适用于任何采集函数的无偏方法,优于标准贝叶斯优化方法在优化多个基准函数和两 - Bayesian Optimization 的高效展开策略
本文介绍了一种基于贝叶斯优化,采用基于滚动学习策略搜索的方法,其中引入了以减少计算负担为目的的仿准蒙特卡罗、公共随机数和控制变量等技术,应用于多模态目标和模型误差的贝叶斯优化领域中。
- AAAI高维贝叶斯优化中的计算预算与收敛速率交替优化
本文介绍了一种新颖且非常有效的处理高维搜索空间中贝叶斯优化问题的方法,该方法利用了低维子空间的优势,将复杂的全局最大化问题转化为简单的低维最大化问题,使得算法具备了快速高效的优点,同时实现了收敛。
- BANANAS: 基于神经架构的贝叶斯优化神经结构搜索
本文通过先识别出五个主要组成部分:架构编码、神经预测器、不确定性校准方法、采集函数和采集优化策略,对 “BO + 神经预测器” 框架进行彻底分析。在每个部件中测试了几种不同的方法,并且还开发了一种新的基于路径的编码方案。最终我们提出了一个名 - 受限贝叶斯优化与最大值熵搜索
本文提出了基于高斯过程的约束最大值熵搜索 (cMES) 并表明它比其他基于熵搜索的约束优化算法在真实约束优化问题上更简单更快速。
- IJCAI自适应采集的深度主动学习
该论文介绍了一个新的方法,通过将采集函数作为学习预测器并通过强化反馈训练它,以打破模型选择中的恶性循环;该系统由贝叶斯神经网络、自举采集函数、概率状态定义和另一个贝叶斯策略网络组成,可在三个基准数据集上始终发现新的更好的采集函数。