一种灵活的扩散模型
本文研究了扩散模型以及它们在数据分布为高斯分布时的数值实现,通过精确表达不同的 Wasserstein 误差,从而比较每种误差类型对任何采样方案的影响,直接在数据空间中监测收敛性,实验证明扩散模型文献中推荐的数值方案也是适用于高斯分布的最佳采样方案。
May, 2024
本文主要研究了扩散模型在计算机视觉中的应用,比较和分析了基于 ODE 和 SDE 的概率流和扩散模型在不同情况下的性能差异,研究表明,对于特定的脉冲形状误差,扩散系数越大,使用 SDE 模型生成样本的误差就会指数级下降,并且变化扩散系数可以提高样本质量。
Jun, 2023
该论文提出了基于 BSDE 的扩散模型,采用适应现有评分函数的方法,确定在达到所需终端分布所需的初始条件。研究表明,采用 Lipschitz 网络进行评分匹配具有优势,该方法具有应用于不同领域(如扩散反演、条件扩散和不确定性量化)的潜力。该工作对得分为基础的生成学习领域做出了贡献,并为解决实际问题提供了一个有前途的方向。
Apr, 2023
该篇论文是一篇关于基于分数的扩散模型的阐述性文章,重点介绍了通过随机微分方程 (SDE) 进行公式化。在温和的引言后,讨论了扩散建模的两个支柱 —— 抽样和得分匹配,其中包括 SDE/ODE 抽样,得分匹配效率,一致模型和强化学习。通过简短的证明来说明所述结果的主要思想。本文主要是为初学者介绍该领域,从中的分析对于设计新模型或算法的从业者也有一定的实用价值。
Feb, 2024
建议了一个统一理论框架,将基于得分的扩散模型和生成对抗网络合并起来,提出了一个名为 “鉴别器去噪扩散流” 的新 SDE,通过调整不同得分项之间的相对权重,可以在 SDMs 和 GANs 之间实现平滑转换,同时保持边际分布不变,提供了新的算法,并具有在高样本质量和快速采样速度之间实现灵活权衡的潜力。
Jul, 2023
本文提出了一种基于随机微分方程的得分模型生成方法,通过缓慢注入噪声将复杂数据分布平滑地转换为已知的先验分布,并通过缓慢地消除噪声将先验分布转换回数据分布,同时利用基于神经网络的得分生成建模技术可以精确估计这些得分,并使用数值微分方程求解器生成样本。
Nov, 2020
扩展图像生成文献中的扩散模型框架以适应语音增强任务,通过探究扩散模型的设计方面,如神经网络预处理、训练损失权重、随机微分方程和反向过程中注入的随机性量,证明了先前的扩散模型语音增强系统的性能并非归因于干净和嘈杂信号之间的渐进转化,并表明适当的预处理、训练损失权重、随机微分方程和采样器选择可以在感知度度量方面优于流行的扩散模型语音增强系统,并减少约四分之一的计算成本。
Dec, 2023
本文介绍了扩散模型领域的现状,并提出了改进现有问题的技术,包括模型速度提升、数据结构多样化、可能性优化和维数减少等。此外,还介绍了扩散模型的应用,包括计算机视觉、序列建模、音频和科学人工智能。
Sep, 2022