高斯过程和贝叶斯优化在金融应用中的作用
本文提出了一种基于量子核的高斯过程回归方法,并利用硬件高效特征映射和 Gram 矩阵的精细正则化,展示了量子高斯过程的方差信息可以被保留,以及它可以作为贝叶斯优化的代理模型,最后将该模型应用于机器学习模型的超参数优化,并以实际数据集为例,与经典的贝叶斯优化进行比较,展示了量子版本的性能可以匹配。
Apr, 2023
本研究基于贝叶斯优化框架,建立高斯过程模型,通过前期实验获得的信息来优化机器学习算法的超参数调整,作者提出可以超过经验人类调参表现的自动算法,并介绍收集实验信息、利用多核心并行实验等新算法。
Jun, 2012
本文介绍了贝叶斯优化的基本工作原理,包括高斯过程回归和三种常见的采集函数;讨论了高级技术,包括并行运行多个函数评估,多保真度和多信息源优化,多任务的贝叶斯优化,并探讨贝叶斯优化软件和未来研究方向。
Jul, 2018
本文提出了使用高斯过程模型来进行非参数回归,分类等任务,通过使用马尔科夫链方法对高斯过程的协方差函数的超参数进行采样,可以发现数据的高级特性并实现预测响应所需输入的相关性。
Jan, 1997
该论文介绍了一种使用多任务高斯过程模型和克罗内克结构的精确采样技术的黑盒优化方法,可用于多个相关目标的优化,并可应用于涉及成千上万个相关输出的任务,从而实现了与现有方法相比较大的样本效率提高。
Jun, 2021
采用拟贝叶斯优化的框架,通过利用简单的局部回归和随机化先验构建来量化不确定性,并保证收敛性,有效地优化高维度的综合实验、超参数调整和机器人应用的例子中胜过最先进的基准测试。
Oct, 2023
本论文提出了一种新的使用多臂老虎机技术的贝叶斯优化方法,采用新型训练损失函数进行高斯过程超参数估计,以确保无偏估计,从而使其即使在未知真实超参数的情况下,也可以亚线性地收敛到目标函数的全局最优点。
Jun, 2023
本文研究了一种直接利用未知函数 argmax 估计值的优化策略,并与 GP-UCB 和 GP-PI 策略建立了紧密联系。该方法的自动适应调整探索和利用的权衡,在机器人和视觉任务的广泛实证评估中表现出鲁棒性,通过性能 - 遗憾的界限说明了自适应调整的效果。
Oct, 2015
在随机环境下,通过使用高斯过程和未知核超参数的贝叶斯优化方法,我们得出了一个对于预期改善收集函数和亚高斯观察噪声的累积遗憾界限,为我们提供了关于如何设计超参数估计方法的指导,并通过简单模拟说明了遵循这些准则的重要性。
Jun, 2014