Dec, 2023

通过辛共轭方法实现准确的导向扩散采样

PDF
TL;DRSymplectic Adjoint Guidance (SAG) proposes a training-free guided sampling approach in diffusion models, improving accuracy and quality of image and video generation by estimating the clean image using multiple function calls and obtaining gradients efficiently.
training-free guided samplingdiffusion modelspre-trained networksclean image estimationsymplectic adjoint guidance
发现论文，激发创造
  • 使用自注意力引导改善扩散模型的样本质量

    本文提出了两种新的无需条件策略：模糊引导和高级自注意引导来增强生成图像的质量，这些方法不仅简单有效，还提高了各种扩散模型的性能。

    Oct, 2022

  • 自校正扩散采样与扰动注意力引导

    基于扩散模型的采样指导技术在无条件生成和各种下游任务中限制较多，本研究提出一种称为 Perturbed-Attention Guidance (PAG) 的新型采样指导方法，通过渐进式增强样本结构，改善扩散采样的质量，并在条件和无条件场景下实现了显著性提升，同时在空提示的 ControlNet 以及图像修复（如修补和去模糊）等各种下游任务中也取得了显著的性能提升。

    Mar, 2024

  • AdjointDEIS: 扩散模型的高效梯度

    扩散模型的优化和参数的梯度计算是一个复杂而具有挑战性的问题，本文提出了一种基于随机伴随灵敏度方法的新方法，用于计算模型的梯度，并演示了该方法在人脸变形问题上的有效性。

    May, 2024

  • 利用非对称梯度引导改进基于扩散的图像翻译

    本文提出了一种使用非对称梯度指导的扩散抽样反向过程的方法，以解决图像翻译中的风格转换和内容保留的权衡问题，并在文本引导和图像引导下进行了快速稳定的图像操作。

    Jun, 2023

  • 结构引导的扩散模型对抗训练

    通过对批处理内样本之间的流形结构进行结构引导的对抗训练，我们引入了一种新的 SADM 扩散模型，显著提高了现有扩散模型的性能，并在图像生成和跨域微调任务中优于现有方法，在 12 个数据集上建立了分辨率为 256x256 和 512x512 的图像网上新的 FID 技术，分别为 1.58 和 2.11。

    Feb, 2024

  • AdjointDPM：扩散概率模型的梯度反向传播的伴随敏感度方法

    使用概率扩散模型自适应定制的新方法 AdjointDPM，采用伴随灵敏度方法通过解决带有增广 ODE 的概率流 ODE 来进行梯度反向传播，从而实现对模型参数和生成内容的梯度控制，进而在可视效果转换、特定类型风格化和安全审计等任务上展示了 AdjointDPM 的有效性。

    Jul, 2023

  • 自适应引导：无需训练的条件扩散模型加速

    该研究综合考察了无分类器引导在文本条件扩散模型中的作用，从推理效率的角度进行了详细研究，并提出了自适应引导（AG）的有效变体，以在保持图像质量的同时减少计算量。研究发现，通过简单的仿射变换可以替代整个神经函数评估，以实现更廉价的推理，从而为文本条件扩散模型的实际应用和快速部署提供了宝贵的洞见。

    Dec, 2023

  • 扩散模型的梯度引导：优化视角

    通过梯度引导实现扩散模型的细调，以用户定义的优化目标适应特定任务需求，包括理论研究、梯度引导的采样过程和梯度引导的迭代扩散，以及潜在结构的保留和全局最优解的收敛速率。

    Apr, 2024

  • Dreamguider：改进的无需训练扩散式条件生成

    Dreamguider 是一个无需通过扩散网络进行计算密集型反向传播的推理时引导方法，通过调节渐变流量和引入经验引导尺度来解决了线性和非线性引导问题，并提出了有效的轻量级增强策略。

    Jun, 2024

  • 具有最小内存的神经 ODE 精确梯度的辛伴随方法

    本研究提出简正了的伴随方法，通过辛积分器求解的伴随方法 获取完全梯度 (直到舍入误差) 并具有更少的记忆消耗，比其他方法更快且能更好地抑制舍入误差.

    Feb, 2021