本文介绍了 Random Embedding Bayesian Optimization (REMBO) 算法，运用随机嵌入思想来攻克高维度问题，此算法简单且具有重要的不变性，应用于具有连续和分类变量的领域，经理论和实证分析证明 REMBO 可在高达数十亿个维度的问题中有效地解决问题，其在优化流行的混合整数线性规划求解器的 47 个离散参数方面也达到了状态的最佳表现。

Jan, 2013

本文通过对现有线性嵌入的文献进行研究后，识别出其中的一些关键问题和误解，并在解决这些问题的基础上，极大地提高了利用线性嵌入进行 Bayesian 优化的效能，包括机器人运动中学习步态策略等方面。

Jan, 2020

EmbeddedHunter 算法通过随机嵌入技术在分层随机赌博设置中应用随机嵌入技术，扩展了一个乐观的搜索空间，并在低维的点投影随机形成的决策空间上限制性任意变化的目标值来提高随机嵌入优化器的表现，并通过实验验证了该算法的表现，可有效提高大规模问题的解决能力。

Nov, 2016

该论文提出了一种基于随机嵌入贝叶斯优化的方法，并通过将高维子空间的扭曲集成到协方差核中来扩展它。该方法可以解决高外部维度的缺点，避免算法评估提供冗余信息的点，并缓解嵌入域选择边界限制，从而提高其鲁棒性，并在一个具有 25 个变量和内部维度 6 的测试用例中进行了说明。

Nov, 2014

本文旨在证明高维度空间中定义的某些非凸函数有一个只包含其临界点大部分的数值狭窄区间的存在，并通过对 MNIST 数据集中的师生网络的实验观察得出了类似的结论，并发现梯度下降和随机梯度下降方法可以在相同步数内达到此水平。

Dec, 2014

该论文研究了一类随机降维映射及其在高维随机几何学中的新普适性，证明在特定数据集上降维成功的概率存在相变现象，从而为数值线性代数算法、压缩感知、随机线性编码等提供了设计原则，并在随机实验设计下为统计估计方法的性能提供了启示。

Nov, 2015

本研究基于贝叶斯优化方法，提出了两种自动调整搜索空间大小的算法，并将它们应用于深度学习中的优化问题，包括超参数调优、神经网络模型训练等，取得了不错的结果。

Aug, 2015

本文提出了一个深度学习框架，基于具有随机先验的 bootstrap 整合的神经体系结构，用于贝叶斯优化和连续决策。该框架能够在高维输出的情况下逼近设计变量和感兴趣数量之间的函数关系，测试表明该方法在优化轮毂叶片的形状等高度复杂的任务中具有明显的优越性。

Feb, 2023

本文提出一种结合局部优化与定制内核设计的新型解决方案，有效应对高维分类和混合搜索空间，同时保留样本效率，经实验证明在性能、计算成本等方面优于当前基准。

Feb, 2021

本文主要研究了如何通过应用 Gumbel 分布来解决 geometric embeddings 中的局部可识别性问题，以及如何改进算法的学习能力。

Oct, 2020