BONET是一个使用离线数据集为基础,训练一个新的黑盒优化器的生成框架,采用单调转移启发式策略,实现从低保真度到高保真度的采样,在Design-Bench中的实验结果显示,BONET使用一个因果掩码转换器的实例,在平均排名上表现最佳,优于现有技术基准。
Jun, 2022
该论文介绍了一种新的离线黑盒优化的逆向方法——DDOM,基于扩散模型,它能够通过学习条件生成模型来进行优化,其在 Design-Bench 基准测试中的表现与最先进的基线相媲美。
Jun, 2023
通过使用现成的预训练分类器在无需额外计算成本的情况下,提出了预处理技术来引导扩散生成,旨在实现比现有方案更显著的性能改进,尤其是在图像生成任务中。
Oct, 2023
为了解决传统训练方法与生成模型的条件抽样行为之间的差异,本文介绍了一种更新的损失函数,通过改进训练目标与抽样行为的一致性来提高样本质量,并对不同的引导比例进行了实验验证。
Nov, 2023
我们提出了使用扩散模型在数据流形上进行优化的方法,以解决具有未知约束的实际优化问题。通过在Boltzmann分布和扩散模型学习的数据分布之间进行采样,我们将原始优化问题转化为采样问题,以限制优化过程在数据流形上进行。通过在初始阶段聚焦在可行解上获得分布,我们的方法在综合实验中展现了与现有的最先进基准方法相当或更好的性能。
Feb, 2024
通过梯度引导实现扩散模型的细调,以用户定义的优化目标适应特定任务需求,包括理论研究、梯度引导的采样过程和梯度引导的迭代扩散,以及潜在结构的保留和全局最优解的收敛速率。
Apr, 2024
基于强化学习的 $ extbf{CTRL}$($ extbf{C}$onditioning pre-$ extbf{T}$rained diffusion models with $ extbf{R}$einforcement $ extbf{L}$earning)方法通过离线数据集,利用强化学习方法在预训练模型上添加额外控制,从而能在推理过程中对条件分布进行采样。与现有方法相比,我们的基于强化学习的方法提供了更高的样本效率,并且利用了输入和额外控制之间的条件独立性,从而极大地简化了离线数据集的构建。此外,与分类器指导方法不同,我们不需要从中间状态到额外控制训练分类器。
Jun, 2024
基于扩散模型的逆向建模用于黑盒优化问题,通过设计新颖的获取函数(UaE),它利用条件扩散模型的不确定性在设计空间中生成样本,实现了在线黑盒优化,并在实验中证明了其优越性能。
通过使用离线数据集,我们引入了一种新颖的条件生成建模方法,生成通向高分区域的轨迹,从而提高复杂和高维黑盒函数的最优化效果。
本研究解决了现有无训练引导方法缺乏理论基础及严格测试的问题,提出了一种新的算法框架,将这些方法统一为算法无关的设计空间进行分析。通过理论和实证研究,该框架在17个任务的基准测试中平均提高了8.5%的性能,为无训练条件生成提供了可靠的基础。
Sep, 2024