- 少批次高斯过程贝叶斯优化
本文研究如何在小批次情况下,利用高斯过程(Gaussian Process, GP)臂式优化算法进行黑匣子训练优化,假设未知函数在内积核希尔伯特空间(RKHS)中具有较低的范数,并介绍了一种受到有限批量臂式算法启发的批算法,表明它在时间纬度 - ICLR黑盒优化与无似然推断的统一
本文提出将无似然推断和黑盒优化统一到一个概率框架下的构造方法,以此为基础构建序列设计方法,并提出新的概率黑盒优化算法,通过序列设计应用的广泛实验表明该方法的优势。
- OpenBox: 通用黑盒优化服务
本研究介绍了 OpenBox,一种开源的黑盒优化服务,可提高用户在自动化机器学习、工程、物理和实验设计等领域的效率和性能,并采用模块化设计和算法普适并行化等方法来优化 BBO 组件。实验证明,OpenBox 相对于现有系统具有更高的效能和效 - 贝叶斯优化在机器学习超参数调节方面优于随机搜索:对 2020 年黑匣子优化挑战的分析
本文介绍了 NeurIPS 2020 的黑盒优化挑战赛结果和洞见,强调了评估无导数优化器以调整机器学习模型的超参数的重要性,并在真实数据集上基于多个标准机器学习模型的调整性能进行了排名。
- MM神经结构的对比嵌入
通过对比学习,自动产生与搜索空间参数化独立的神经架构嵌入,使传统黑盒优化算法在神经架构搜索中达到最先进的性能,同时实现了搜索空间间的迁移学习,并探索了在不同训练阶段使用嵌入的潜力。
- AAAI用于超参数优化的 CMA-ES 热启动
通过任务相似度的定义,将先前任务的经验直接迁移到初始化过的方法 CMA-ES 中,从而提高了它在具有相似任务的超参数优化中的表现。
- ICML关于标准和鲁棒高斯过程赌博优化的下限
本文研究在 Reproducing Kernel Hilbert Space(RKHS)中具有有界范数的函数的黑盒优化问题的算法无关下限,并提供了在标准噪声和各类扰动下的决策边界。
- 使用蒙特卡罗树搜索学习黑盒优化的搜索空间划分
本文介绍了一种基于 LaNAS 的元算法 LA-MCTS,通过非线性划分和本地模型的学习,使用极少的样本和函数值来学习搜索空间的划分,并使用现有的黑盒优化器作为其本地模型,在黑盒优化和强化学习基准测试中实现了强大的性能,并特别适用于高维度问 - 面向生物序列设计的基于种群的黑盒优化
该研究论文研究了如何通过黑盒优化算法设计新的生物序列,提出了一种名为 P3BO 的人口基础的黑盒优化算法,并结合进化优化算法在线调整超参数,实验证明 P3BO 可以提供更高质量、多样化的序列,是将机器学习应用于实际序列设计的重要步骤。
- 在 RKHS 中对光滑函数进行多尺度零阶优化
提出一种新算法,通过在通用高斯过程代理模型中增加本地多项式估计函数 $f$ 来构建多尺度 UCB 以指导优化器的搜索,从而在预算 $n$ 的情况下获得理论上的累积失望次数界限。
- 基于确定性遗憾界的高效批处理黑盒优化
本研究从基于频率的核方法角度探讨黑盒优化,提出了一种新的批处理优化算法,可以同时优化收购函数并从整个批次中选择点,理论上为无噪声和扰动设置导出了遗憾界限,同时分析了对贝叶斯优化的鲁棒初始化所需的敌对遗憾的性质。
- 多保真度查询噪音黑匣子优化:一种树搜索方法
本文提出一种基于多保真度量的带组合式树搜索的算法来解决黑盒优化问题,该算法针对在低成本逼近和噪声情况下的黑盒函数求解高维最优参数问题。
- 基于 DNN 的源增强以提高客观声音质量评分
本研究提出了一种基于深度神经网络的源增强技术的训练方法,通过黑盒优化方案,采用概率密度函数进一步提高 OSQA 评分。
- 面向无梯度和无投影的随机优化
本文介绍了一种零阶 Frank-Wolfe 算法,用于解决约束随机优化问题,该算法与基本 Frank-Wolfe 算法同样无需投影,且不需要计算梯度,可收敛于凸平滑约束下的优化目标函数。同时,本算法在具有每次迭代一个方向导数的所有零阶优化算 - 离散黑盒优化启发式的复杂性理论
研究演化算法的理论,尤其是随机黑盒优化技术理论中占主导地位的一个话题是运行时间分析,它旨在通过限制启发式算法在给定问题上需要的函数评估次数来理解其性能,并通过复杂性理论来研究算法解决问题的极限。该论文从黑盒优化的角度回顾了文献中提出的不同的 - 变分自适应牛顿法用于探索性学习
本文介绍了变分自适应牛顿法 (VAN) 的方法,它是一种适用于探索性学习任务的黑盒优化方法,可以像贝叶斯方法一样估计用于探索的分布,但需要类似于连续优化方法的计算方式。我们的理论贡献揭示了 VAN 是一个二阶方法,将已有的连续优化、变分推理 - 具连续逼近的多精度贝叶斯优化
本文提出了一种基于 Bayesian 优化的多保真度方法 BOCA,并通过理论分析和实验展示了其在神经网络调优等任务上的优越性。
- 批量贝叶斯优化的并行知识梯度法
本文提出一种新的批处理贝叶斯优化算法 —— 并行知识梯度方法,有效计算贝叶斯最优批处理点的策略,并在本文中,我们证明了并行知识梯度方法比以往的批处理贝叶斯优化算法更快地找到了全局最优解,在合成测试函数和调整实际机器学习算法的超参数时表现十分 - 凸优化:算法与复杂度
本文旨在介绍凸优化及其相应算法,包括黑盒优化,结构优化,随机优化以及非欧几里德设置下的机器学习算法。
- 平滑凸函数极小化的一阶方法性能:一种新方法
本文介绍了一种新颖的方法,用于分析第一阶段黑盒优化方法的性能,着重于欧几里得空间 Rd 上的平滑无约束凸最小化,研究了两类一阶方法的性能估计问题(PEP),陈述了如何通过解决凸半正性 PEP 来导出这些方法的性能的新数值界,并演示了一种有效