减少，重复利用，回收：基于能量扩散模型和 MCMC 的组合生成

Feb, 2023

减少，重复利用，回收：基于能量扩散模型和 MCMC 的组合生成

Reduce, Reuse, Recycle: Compositional Generation with Energy-Based Diffusion Models and MCMC

Yilun Du, Conor Durkan, Robin Strudel, Joshua B. Tenenbaum, Sander Dieleman...

TL;DR本文探讨了基于评分的解释下的扩散模型的新的条件化方式、修改、及重复利用方法，研究了目前技术下导致某些类型的组合失败的原因，并提出了解决方案，同时提出了基于能量的参数化的扩散模型，该模型得以利用新的组合算子和更复杂的 Metropolis 修正取样器，这些方法在广泛的问题领域对组合生成带来了显著的改进。

Abstract

Since their introduction, diffusion models have quickly become the prevailing approach to generative modeling in many domains. They can be interpreted as learning the gradients of a time-varying sequence of log-probability density functions. This interpretation has motivated classifier

diffusion models compositional generation score-based interpretation classifier-free guidance mcmc

发现论文，激发创造

基于评分的扩散模型修正的 MCMC 方法用于模型组合

通过对评分函数进行线积分计算来计算基于能量的接受概率，从而实现扩展的采样过程，使我们能够重复使用现有的扩散模型并将其与各种马尔科夫链蒙特卡洛方法结合。我们在一个二维实验中评估了我们的方法，并发现其达到了与能量参数化方法相似或更好的性能。

Jul, 2023

可组合扩散模型下的组合视觉生成

通过解释扩散模型为基于能量的模型，在训练和测试阶段中将一组扩散模型组合在一起，结构化生成，该方法可用于合成预训练的文本指导的扩散模型并生成生动逼真的图像，解决了 DALLE-2 在对象属性方面的困难。

Jun, 2022

复合能力呈现出乘法效应：在合成任务上探索扩散模型

通过对条件扩散模型的控制实验研究，我们发现生成模型在组合推理任务上的性能是突然出现的，其组合能力取决于底层数据生成过程的结构，并在生成非分布样本时需要更多的优化步骤。

Oct, 2023

能量基模型下的组合视觉生成与推理

本文中，我们展示了由能量基模型直接组合概率分布从而展示人类智能的一个重要方面：从简单构想到复杂概念的组合能力。我们的模型能够生成自然图像，同时满足概念的合取、析取和否定等关系。我们在 CelebA 数据集和合成 3D 场景图像上评估了我们模型的组合生成能力，并展示了我们模型的其他优势，如持续学习和整合新概念，或推断图像潜在的概念属性组合。

Apr, 2020

迭代生成过程的组合塑造

我们提出了一种名为 Compositional Sculpting 的方法，用于定义迭代生成过程的组合，通过分类器指导实现了采样，展示了在 GFlowNets 和扩散模型中实现组成塑造的方法，并提供了在图像和分子生成任务上的实证结果。

Sep, 2023

分散合并马尔可夫链蒙特卡洛扩散生成模型

使用扩散生成建模方法拟合子后验分布的密度近似，以更高效地解决合并问题，并且在高维问题上比现有的密度估计方法性能更好。

Jun, 2024

具有可控性和组合性的潜空间能量模型生成

本研究探讨基于能量的模型在控制性生成方面的表现，提出了一种在 StyleGan 的潜在空间中处理组合生成的能量模型，并且通过逻辑运算实现了高分辨率图像的组合生成。

Oct, 2021

具有能量分布概率评估的深度有向生成模型

本论文提出了一种利用生成对抗网络（GAN）和基于深度神经网络的生成模型来代替 MCMC 模型的方法，通过训练这种模型生成的采样分布近似匹配待训练的能量函数。

Jun, 2016

扩散 - 哈密尔顿蒙特卡罗：用扩散模型驱动的参数推断

使用单一的扩散生成模型作为宇宙学参数推断模型和冷暗物质密度场的代码模拟器，旨在通过近似似然推断给出对宇宙学参数的严格约束，并展示这种参数推断方法较基准参数推断网络更具鲁棒性。

May, 2024

基于分数扩散模型的条件图像生成

本文研究使用基于得分的扩散模型进行深层生成建模的方法，系统比较和理论分析不同方法学习条件概率分布的效果，并证明得出条件得分最成功的估计器的理论依据。同时，介绍了多速度扩散框架，提出了一个新的条件分数估计器，与之前的最先进方法相当。伴随着本文的理论和实验研究是一个开放源代码库 MSDiff，可用于应用和进一步研究多速度扩散模型。

Nov, 2021