Oct, 2023
基于行动原理的生成扩散
Generative Diffusion From An Action Principle
Akhil Premkumar
TL;DR生成扩散模型通过将给定的数据集转化为通用噪声的扩散过程逆转来合成新样本，通过训练神经网络来匹配给定数据集的概率分布的对数梯度，同时将逆扩散视为最优控制问题，从而证明了得分匹配可以从动作原理派生出来，类似于物理学中常用的那些；我们利用这一观点来展示了不同类别的扩散模型之间的关系。
Abstract
generative diffusion models synthesize new samples by reversing a diffusive
process that converts a given data set to generic noise. This is accomplished
by training a →
发现论文，激发创造
基于扩散生成模型与评分匹配的变分视角
本文通过导出一个变分框架来推导连续时间生成扩散理论，并表明该理论中最小化匹配得分损失等价于最大化该理论内所提出的可逆 SDE 插件的似然度的下限。
Jun, 2021
通过扩散学习实现目标达成
Diffusion models 可以将高维空间中的随机噪声通过迭代去噪映射到目标流形，来解决强化学习中以目标条件为导向的问题。本文提出了一种名为 Merlin 的方法，利用类似扩散过程的思想，在高维空间中构建从潜在目标状态扩散而远离的轨迹，并通过学习类似分值函数的目标条件策略，能够从任意初始状态到达预定义或新颖的目标。本文在离线目标达成任务上进行理论验证和实证实验，结果表明这种针对序列决策问题的扩散思路是一种简单、可扩展且有效的方向。
Oct, 2023
通过凸优化对基于神经网络的生成扩散模型进行分析
本研究提出了一个理论框架，通过将评分匹配和去噪评分匹配视为凸优化问题，对基于两层神经网络的扩散模型进行了分析。尽管现有的扩散理论主要是渐近的，但我们对有限数据的神经网络扩散模型进行了确切的预测评分函数表征，并建立了收敛结果，从而有助于理解非渐近设置中神经网络扩散模型的学习过程。
Feb, 2024
评估扩散型生成模型的设计空间
对于扩散模型的准确性进行了理论研究，通过梯度下降方法对去噪积分评分匹配的训练和采样过程进行了非渐近收敛分析，并提供了方差爆炸模型的抽样误差分析。通过这两个结果的结合，明确了如何设计有效生成的训练和采样过程。
Jun, 2024
数据驱动的黑箱优化扩散模型
基于扩散模型的条件采样方法，在黑盒优化中生成接近最佳解且保留设计的潜在结构，通过建立理论模型和进行实验验证，证明了奖励导向扩散模型在黑盒优化中的效率和准确性。
Mar, 2024
面向应用数学家的生成人工智能扩散模型简介
生成人工智能是指生成合成但逼真的输出的算法。扩散模型在图像生成人工智能中目前达到最高水平，并在包括文本到图像生成器和大型语言模型在内的更通用工具中起着关键作用。
Dec, 2023