Feb, 2023

利用随机先验网络进行高维输出的可伸缩贝叶斯优化

PDF
TL;DR本文提出了一个深度学习框架，基于具有随机先验的 bootstrap 整合的神经体系结构，用于贝叶斯优化和连续决策。该框架能够在高维输出的情况下逼近设计变量和感兴趣数量之间的函数关系，测试表明该方法在优化轮毂叶片的形状等高度复杂的任务中具有明显的优越性。
bayesian optimizationdeep learningneural architectureshigh-dimensional outputssequential decision making
发现论文，激发创造
  • 高维空间中的批量大规模贝叶斯优化

    本文提出了一种基于集成高斯过程模型的贝叶斯优化算法（EBO），以解决黑盒函数优化问题中大规模观测、高维输入空间和批量查询质量与多样性平衡等三大挑战。结果表明，EBO 能在几分钟内扩展到数万次观测，同时取得了前所未有的优化效果。

    Jun, 2017

  • 高维贝叶斯优化：基于有重叠分组加性模型

    本文提出了一种新的基于加性模型的贝叶斯优化算法，可以高效地处理存在重叠子集的高维函数优化问题，并通过图上的信息传递算法优化其采集函数，同时提出了通过 Gibbs 抽样学习其结构的算法，实验证明该方法在合成数据和真实数据上都具有良好效果。

    Feb, 2018

  • 高维输出的贝叶斯优化

    该论文介绍了一种使用多任务高斯过程模型和克罗内克结构的精确采样技术的黑盒优化方法，可用于多个相关目标的优化，并可应用于涉及成千上万个相关输出的任务，从而实现了与现有方法相比较大的样本效率提高。

    Jun, 2021

  • 深度图贝叶斯优化的深度神经架构搜索

    本文提出一种基于 Bayesian 图神经网络作为新的代理函数的方法，能够自动提取深度神经架构中的特征，并使用学到的特征来拟合和表征黑箱目标及其不确定性，将其用于应对深度神经架构搜索的挑战性任务，实验结果表明该方法在基准任务上明显优于比较方法。

    May, 2019

  • 大批量神经多目标贝叶斯优化

    本文提出了一种基于贝叶斯神经网络的优化框架，专门针对数据密集型环境中多目标优化的局限性进行了优化，实现了对大量数据的有效处理和复杂问题的建模，并展示了其在航空动力学和彩色印刷两个领域的应用和有效性。

    Jun, 2023

  • 基于贝叶斯优化的可持续工艺系统灵活高效设计框架

    贝叶斯优化是一种强大的技术，可用于优化噪声大、昂贵难评估的黑箱函数，在科学、工程、经济、制造等领域具有广泛的实际应用。本文概述了贝叶斯优化在下一代过程系统设计中的最新进展、挑战和机遇，并介绍了如何利用高级贝叶斯优化方法更有效地解决这些应用中的重要问题。最后，我们总结了提高概率模型质量、选择下一个样本点的内部优化过程以及利用问题结构提高样本效率方面的挑战和机会。

    Jan, 2024

  • 可扩展贝叶斯优化算法：基于深度神经网络

    本文研究如何使用神经网络作为替代高斯过程的方法建立函数分布模型，以实现高效的贝叶斯优化方法并应用于大规模超参数优化，通过卷积网络和神经语言模型在基准目标识别任务和图像描述生成方面实现了优异的效果。

    Feb, 2015

  • 正则化无界贝叶斯优化

    本研究基于贝叶斯优化方法，提出了两种自动调整搜索空间大小的算法，并将它们应用于深度学习中的优化问题，包括超参数调优、神经网络模型训练等，取得了不错的结果。

    Aug, 2015

  • 高维贝叶斯优化使用 Dropout

    使用 dropout 策略在高维贝叶斯优化中优化每次迭代的变量集。对遗憾进行了理论上的界定，并在训练级联分类器和优化合金组合这两个现实应用中证明其有效性。

    Feb, 2018

  • 迭代学习的贝叶斯优化

    本文提出了一种基于贝叶斯优化的方法，该方法可以利用学习算法的迭代结构来有效地调整超参数。在深度强化学习和卷积神经网络训练中，我们的算法通过选择最佳超参数的方式，以最小时间成本实现了调优。

    Sep, 2019