Apr, 2024

改进的无需训练的条件扩散模型的费舍尔信息

PDF
TL;DR我们提出了一种利用费舍尔信息引导的扩散模型 (FIGD)，通过引入费舍尔信息来估计梯度，以减少计算成本，并确保 FIGD 的泛化性，为基于信息论的无训练方法提供新的训练思路。实验结果表明，FIGD 能够更快地实现不同条件图像的生成而保持高质量。
diffusion modeltraining-free methodsefficiency problemfisher information guided diffusion modelconditional generation
发现论文，激发创造
  • Dreamguider：改进的无需训练扩散式条件生成

    Dreamguider 是一个无需通过扩散网络进行计算密集型反向传播的推理时引导方法，通过调节渐变流量和引入经验引导尺度来解决了线性和非线性引导问题，并提出了有效的轻量级增强策略。

    Jun, 2024

  • 关于引导式扩散模型的精馏

    本文介绍了一种将分类器自由引导扩散模型蒸馏为更快采样的方法，以减少推理时间，并取得了与原始模型相当的图像有效性。

    Oct, 2022

  • 具备预训练生成模型的条件图像生成

    通过经验分析，我们提出了一套方法，以降低在扩散模型中引入指导所带来的时间需求和计算开销，并且保持相当的图像质量，从而将计算时间减少大约三倍。

    Dec, 2023

  • 以自身的错误版本引导扩散模型

    使用自身较小、较少训练的模型而不是无条件模型，引导生成图像，可以获得图像质量分离的控制，同时不减少变化量。这在 ImageNet 生成方面有显著的改进，64x64 像素的 FID 为 1.01，512x512 像素的 FID 为 1.25，使用公开可用的网络。此方法还适用于无条件扩散模型，大幅提高它们的质量。

    Jun, 2024

  • 条件扩散蒸馏

    通过图像条件实现的一种新颖的有条件蒸馏方法，将扩散模型的先验知识与图像条件相结合，大大简化了以往两阶段的蒸馏过程，并通过少量的额外参数和冻结的无条件主干网络实现了一种新的高效蒸馏机制，实验结果表明，该方法在多个任务上的表现优于现有的人工蒸馏技术，并且是第一个能够与更慢的精细调优有条件扩散模型相匹配的蒸馏策略。

    Oct, 2023

  • 即插即用扩散蒸馏

    我们提出了一种新的蒸馏方法，可以减少迭代计算过程中无需分类器指导的扩散模型的推理计算时间，并且只需要基础模型的 1％的可训练参数，同时还能维持生成图像的视觉逼真度。

    Jun, 2024

  • 揭示具有无分类器指导的条件扩散模型：一个尖锐的统计理论

    本文通过提出一种锐利的统计理论，通过采用条件扩散模型进行分布估计，以实现对数据分布平滑性的自适应样本复杂度界限，并与极小 max 求解下界相匹配。通过对条件分数函数的近似结果揭示了理论的关键发展，该结果依赖于一种新型扩散泰勒逼近技术。此外，在求解逆问题和奖励条件样本生成等多种应用中，我们还展示了统计理论的实用性。

    Mar, 2024

  • 滤波引导扩散：针对黑盒扩散模型的快速滤波引导

    本研究通过在每个扩散步骤的输入上应用自适应滤波器（不需要任何额外的培训或网络内部特征），提供与最新的基于体系结构依赖方法相竞争的快速和强大的基线，并允许更连续地调整指导强度。除此之外，还可以用作简单的附加组件，以增强其他最先进的 I2I 方法的结构指导。

    Jun, 2023

  • 联邦扩散模型的梯度反演

    我们研究了扩散模型在生成高分辨率图像数据方面的应用，使用基于梯度的协作训练方法，我们设计了一种融合优化模型（GIDM），以减小梯度反演攻击的风险，并进一步提出了三重优化模型（GIDM+）来解决隐私保护方面的挑战。通过广泛的评估结果，我们发现共享梯度对于扩散模型的数据保护存在漏洞，即使是高分辨率图像也可以被高质量地重建。

    May, 2024

  • 扩散模型对抗生成网络 (GANs) 在图像合成方面占优

    通过扩散模型和分类器引导，我们的图像合成方法在 FID 指标以及覆盖分布方面优于现有的生成模型，我们的代码开源。

    May, 2021