- Diff-BBO:基于扩散的黑盒优化的逆向建模
基于扩散模型的逆向建模用于黑盒优化问题,通过设计新颖的获取函数(UaE),它利用条件扩散模型的不确定性在设计空间中生成样本,实现了在线黑盒优化,并在实验中证明了其优越性能。
- LICO: 大型模式语言用于上下文分子优化
通过为预先训练的语言模型添加嵌入层和预测层,我们引入了 LICO,一个扩展了任意基础 LLM 用于黑盒优化的通用模型,特别适用于分子领域。LICO 可以通过上下文提示轻松地推广到看不见的分子属性,并在包含超过 20 个客观函数的 PMO 挑 - 扩散目标生成的协方差自适应顺序黑盒优化
通过使用黑盒用户目标评分,我们提出一种基于扩散模型的目标引导生成方法,并采用协方差自适应的顺序优化算法来优化未知过渡动态下的累积黑盒评分,实验证明该方法在实现更好目标评分方面具有卓越的性能。
- GLHF:基于超函数的通用学习进化算法
GPOM 是一种预训练的通用优化模型,通过构建面向连续优化的基于种群的预训练黑盒优化模型,解决了当前预训练优化模型在效率和泛化能力方面存在的问题,并在 BBOB 基准和两个机器人控制任务中的评估中表现出显著优于其他预训练黑盒优化模型以及基准 - ICML基础模型在黑盒优化中的应用:优势、挑战和未来发展方向
庞大的语言模型 (Large Language Models) 已经在机器学习研究领域引发了一股创新浪潮,在强化学习、机器人学和计算机视觉等多个领域产生了实质性影响。然而,基于黑箱优化的实验设计领域受到的这种范式转变影响较小,尽管将 LLM - 数据驱动的黑箱优化扩散模型
基于扩散模型的条件采样方法,在黑盒优化中生成接近最佳解且保留设计的潜在结构,通过建立理论模型和进行实验验证,证明了奖励导向扩散模型在黑盒优化中的效率和准确性。
- 多保真贝叶斯优化与跨任务可转移最大值熵搜索
介绍了一种新颖的信息论获取函数,通过实施基于粒子变分贝叶斯更新的共享任务间潜在变量,平衡了对当前任务信息获取需求与收集可迁移到未来任务的信息目标,实验证明,该策略能够显著提高优化效率。
- 大型语言模型作为进化策略
大型语言模型(LLMs)具备黑箱优化任务的潜力,可以通过 least-to-most 排序的提示策略提供演化优化算法,称为 EvoLLM,从而在合成 BBOB 函数和小规模神经进化任务上稳定优于传统算法。并通过对 LLM 的模型规模、提示策 - 增强的上下文黑盒优化
RIBBO 是一种从离线数据中强化学习 Black-Box Optimization 算法的方法,采用表达能力强的序列模型学习多个行为算法和任务产生的优化历史,通过集成 regret-to-go tokens 来自动生成满足用户期望遗憾值的 - PINN-BO:一种使用物理信息神经网络的黑盒优化算法
利用偏微分方程的知识提高优化的样本效率,我们提出了使用物理感知神经网络(PINN-BO)的黑盒优化算法,并通过实验证明我们的算法比现有方法更加样本高效。
- ICLR通过符号方程学习生成灵活的黑盒优化器
通过符号方程学习,本文提出了一种名为 Symbol 的新框架,自动发现黑盒优化器,并通过深度强化学习的方式进行元学习,实现了超越现有基准模型的优化器,并展现了卓越的零样本泛化能力。
- 隐形反射:利用红外激光反射定位交通标识感知
使用无滤波图像传感器和红外激光反射的物理攻击方式,研究了对连通自动驾驶车辆的交通标志感知系统进行的攻击,在室内和移动车辆场景中分别实现了 100% 和超过 80.5% 的攻击成功率,并提出了基于红外激光反射物理特性的检测策略,能够检测 96 - 预训练语言模型中的提示优化的贝叶斯方法
以贝叶斯优化为基础,研究离散提示的优化方法及其应用于分类任务中的性能表现。
- 联合复合潜空间贝叶斯优化
Bayesian Optimization is enhanced by integrating intermediate outputs and effectively tackles high-dimensional problems - 伪贝叶斯优化
采用拟贝叶斯优化的框架,通过利用简单的局部回归和随机化先验构建来量化不确定性,并保证收敛性,有效地优化高维度的综合实验、超参数调整和机器人应用的例子中胜过最先进的基准测试。
- 联合变压器的全新药物设计
通过使用共享权重的联合生成模型,该研究提出了一种联合 Transformer,通过训练模型生成具有突破性目标性能的新分子,从而在新分子预测和生成上取得了优于现有方法的表现。
- 基于低预算的黑盒优化算法在 BBOB 和 OpenAI Gym 上的评估
机器学习和黑盒优化之间的相互影响性及算法性能的比较研究:基于机器学习和黑盒优化的算法在有限预算下具有较好性能,但随着预算增加,其他算法家族通常表现更好。
- 基于多项式模型的黑盒目标优化
通过拟合多项式替代模型到目标函数,通过迭代更新模型并利用预期改进的探索和利用平衡,提供模型的不确定性估计的 PMBO 是一种成功竞争,并在某些情况下甚至超越其他算法的黑盒优化方法,可广泛应用于各个领域。
- 通用且实用的调整方法用于现成的基于图的索引:UTokyo 团队 SISAP 索引挑战报告
通过黑盒优化算法,本研究引入了一种方法来调整现成的基于图的索引的性能,重点关注向量的维度、数据库大小和图遍历的入口。我们将这种方法应用于 SISAP 2023 索引挑战的任务 A,在 10M 和 30M 轨道上获得了第二名,与蛮力方法相比, - 基于用户偏好的算法优化
通过人们的偏好来优化算法参数配置,而无需直接模拟奖励,SortCMA 可以有效地利用用户输入得到参数集合,将其应用于没有确切评分标准的商用深度传感器和机器人社交导航中,成功实现了用户目标的优化,并进行了用户研究来评估社交导航结果。