May, 2023

最优线性子空间搜索：学习构建快速高质量扩散模型调度器

PDF
TL;DR本文提出了一种称为最优线性子空间搜索（OLSS）的新方法，通过在潜在变量所张成的线性子空间中搜索完整生成过程的最优逼近过程来加速生成过程，并在开放源码的扩散模型上进行了广泛的比较性实验，实验结果表明，使用给定的步数，OLSS 可以显着提高所生成图片的质量。
diffusion modelsimage synthesisgeneration processlinear subspacesoptimal linear subspace search
发现论文，激发创造
  • 利用次路线线性近似模型加速图像生成

    SLAM 通过利用 Sub-path Linear Approximation Model (SLAM) 方法加速扩散模型，从而实现高质量图像生成，克服了现实场景中推理速度缓慢的问题，提供了一种新的加速方法。

    Apr, 2024

  • AutoDiffusion：无需训练的自动扩散模型加速的时间步长和架构优化

    我们提出了一种统一的框架来在扩散模型中实现有效的图像生成，其中搜索最佳时间步骤序列和压缩模型架构，无需进一步的训练。通过引入两阶段进化算法和使用生成和真实样本之间的 FID 评分来加速搜索过程，该方法在仅使用几个时间步骤时实现了出色的性能。

    Sep, 2023

  • 通过样本质量差分学习扩散模型的快速采样器

    通过 Differentiable Diffusion Sampler Search 方法优化 Diffusion Models 的 samplers，使用 Generalized Gaussian Diffusion Models 生成高质量的样本，实现无条件图像生成。

    Feb, 2022

  • 优化扩散模型中的采样计划对齐步骤

    通过对扩散模型的采样调度进行优化，我们提出了一种通用的、有原则的方法，称为 “调整您的步骤”，以实现高质量输出，并观察到我们优化的调度在几乎所有实验中优于以前手工制作的调度。

    Apr, 2024

  • 子空间扩散生成模型

    通过在噪声映射运行限制后的高维扩散过程，实现基于评分模型生成高质量样本且减少计算量的方法。

    May, 2022

  • SNED: 高效视频扩散模型的超定位网络架构搜索

    该论文提出了 SNED，一种用于高效视频扩散模型的叠加网络架构搜索方法，通过超网络训练范式和权值共享方法实现了各种模型成本和分辨率选项的目标。实验结果表明，该方法在不同的模型选项上始终产生高效的可比较结果。

    May, 2024

  • 无监督神经组合优化的扩散模型框架

    通过引入一种可以上界反向 Kullback-Leibler 散度且避免要求确切样本似然的损失函数，本研究提出了一种能够解决在不依赖相应训练数据的情况下从难以处理的离散集合中进行采样的问题的方法，并展示了该方法在无数据组合优化中实现了最先进的性能。

    Jun, 2024

  • OMS-DPM: 模型进度优化扩散概率模型

    本文提出使用多个模型并按照设计的模型时间表模拟生成过程，从而优化生成速度和质量，同时介绍了一种新的基于 OMS-DPM 的模型优化算法，以此在多个数据集上证明该方法的有效性。

    Jun, 2023

  • 使用线性扩散增强快速高质量语音合成

    本文提出了一种基于普通微分方程的线性扩散模型（LinDiff），其旨在实现快速推理和高采样质量，并通过基于补丁的处理方法来减少计算复杂性和实现嘈杂语音的有效全局建模，并使用对抗性训练进一步改善样本质量，并在 Mel - 声谱图上条件语音合成中进行测试，实验结果表明，即使只有一个扩散步骤，该模型也可以合成高质量的语音，而且在更快的合成速度下合成质量与自回归模型相媲美。

    Jun, 2023

  • 使用扩散图进行稳定的生成建模

    我们提出了一个结合扩散映射和兰格朗日动力学的生成模型，通过扩散映射近似训练样本的漂移项，并在离散时间的兰格朗日采样器中实现，以生成新样本。通过设置核带宽与未调整的兰格朗日算法中使用的时间步长相匹配，我们的方法有效地解决了通常与时间步长严重随机微分方程相关的稳定性问题。我们的框架可自然地扩展到生成条件样本。通过对合成数据集和随机子网格尺度参数化条件采样问题进行实验，我们验证了我们提出的方案的性能。

    Jan, 2024