Design-Bench presents a benchmark for offline model-based optimization (MBO) with high-capacity deep neural networks using diverse and realistic tasks derived from real-world optimization problems in biology, materials science, and robotics.

Feb, 2022

在这项工作中，我们考虑了一种更加普遍但具有挑战性的约束模型优化问题（CoMBO），其中只有部分设计空间可以进行优化，而其余部分受到环境的约束。我们提出了一种新的推理增强的离线模型优化方法（ROMO），它通过检索离线数据集并聚合相关样本来提供可信的预测，然后在此基础上进行梯度优化。ROMO 在 CoMBO 设置中表现出色，优于最先进的方法。

Oct, 2023

本文旨在解决基于数据驱动的基于模型优化 (MBO) 问题，提出了一种名为保守目标模型 (COMs) 的方法，该方法使用对无法分布的输入提供目标函数的下界的模型进行优化， 结构上，COMs 类似于用于克服对抗性示例的对抗性训练方法，并在广泛的 MBO 问题上优于许多现有方法。

Jul, 2021

该论文介绍了一种新的离线黑盒优化的逆向方法 ——DDOM，基于扩散模型，它能够通过学习条件生成模型来进行优化，其在 Design-Bench 基准测试中的表现与最先进的基线相媲美。

Jun, 2023

通过训练二元分类器，我们提出了一种简单的方法来检测分布的变化，从而解决了在模型设计过程中的分布偏移问题，并通过验证其在实际应用中的有效性，证实了此方法可以提高设计的质量。

Nov, 2023

BONET 是一个使用离线数据集为基础，训练一个新的黑盒优化器的生成框架，采用单调转移启发式策略，实现从低保真度到高保真度的采样，在 Design-Bench 中的实验结果显示，BONET 使用一个因果掩码转换器的实例，在平均排名上表现最佳，优于现有技术基准。

Jun, 2022

基于扩散模型的逆向建模用于黑盒优化问题，通过设计新颖的获取函数（UaE），它利用条件扩散模型的不确定性在设计空间中生成样本，实现了在线黑盒优化，并在实验中证明了其优越性能。

Jun, 2024

离线优化涉及最大化一个黑盒目标函数，存在广泛的应用。然而，与离线单目标优化相比，离线多目标优化进展不足，主要原因是缺乏像单目标优化的 Design-Bench 这样的基准。为了填补这一差距，我们提出了离线多目标优化的第一个基准，覆盖了从合成到真实任务的一系列问题。该基准提供了任务、数据集和开源示例，可作为方法比较和离线多目标优化进展的基础。此外，我们从数据、模型架构、学习算法和搜索算法四个基本角度分析了如何将当前相关方法调整为离线多目标优化。实证结果显示，离线多目标优化方法相较于训练集的最佳值有所改进，证明了其有效性。由于没有特定的方法明显优于其他方法，进一步提高离线多目标优化的效果仍然是一个开放性挑战。最后，我们探讨了离线多目标优化的未来挑战，希望为这个新兴领域带来一些启示。我们的代码可在 https://github.com/lamda-bbo/offline-moo 找到。

Jun, 2024

本文提出了 DROP 方法，通过离线学习一个 MBO 分数模型在内部级别上进行优化，在外部级别上进行优化以获得奖励最大化并通过引入行为嵌入和保守规则限制，使得 DROP 具备了测试时间自适应能力。与传统离线 RL 方法相比，DROP 取得了显著的性能提升。

Jun, 2023

离线优化是一个新兴的问题，在许多实验工程领域，包括蛋白质、药物或飞机设计，由于在线实验以收集评估数据费时或危险，必须在仅有一组固定输入的离线评估基础上优化一个未知函数。为了避免这种情况，可以学习一个未知函数的代理模型并对其进行优化，但这种简单的优化器容易对离线数据集之外的输入过于高估代理模型（可能会因为在有偏函数评估样本上过度拟合）。为填补这一重要空白，我们将离线优化重新定义为一个离线强化学习问题，引入了一种新的学习搜索视角。我们的建议是通过明确学习从离线数据创建的代理模型中获得最佳策略来进行梯度搜索。我们对多个基准测试的实证结果表明，所学习的优化策略能够与现有的离线代理模型相结合，显著提高优化性能。

May, 2024