Oct, 2023
RTDK-BO:具有增强的 Transformer 深度核函数的高维贝叶斯优化
RTDK-BO: High Dimensional Bayesian Optimization with Reinforced Transformer Deep kernels
Alexander Shmakov, Avisek Naug, Vineet Gundecha, Sahand Ghorbanpour, Ricardo Luna Gutierrez...
TL;DR本研究结合了深度内核学习和基于注意力机制的 Transformer 模型,通过元学习来改进高斯过程(GP)代理模型的建模能力,并结合连续的软 Actor-Critic 强化学习训练的学习采集函数来辅助探索,从而在连续高维优化问题中取得了最先进的结果。