Feb, 2024

T-Stitch：使用轨迹拼接加速预训练扩散模型的采样

PDF
TL;DR使用 Trajectory Stitching T-Stitch 技术，通过使用较小的 diffusion probabilistic model（DPM）进行初始步骤，然后在后续阶段转换为更大的 DPM，实现采样效率的提高而无需降低生成质量。该方法是无需训练的，适用于不同结构，能够在速度和质量之间灵活权衡。
发现论文，激发创造
  • DiffStitch：基于扩散的轨迹拼接技术提升离线强化学习

    离线强化学习中，学到的策略性能高度依赖于离线数据集的质量。然而，在许多情况下，离线数据集只包含非常有限的最优轨迹，这对离线强化学习算法提出了挑战，因为智能体必须能够转移到高奖励区域。为了解决这个问题，我们引入了一种基于扩散的轨迹拼接（DiffStitch）方法，这是一种新颖的基于扩散的数据增强技术，能够在轨迹之间生成连接转移。DiffStitch 有效地连接了低奖励轨迹与高奖励轨迹，形成全局最优轨迹，以解决离线强化学习算法面临的挑战。在 D4RL 数据集上进行的实证实验表明 DiffStitch 在 RL 方法中的有效性。值得注意的是，DiffStitch 在一步方法（IQL）、模仿学习方法（TD3+BC）和轨迹优化方法（DT）的性能上有了显著提升。

    Feb, 2024

  • 利用时间步调节器实现更准确的扩散模型加速

    我们提出了一种时间步齐器方法，用于改善扩散模型的图像生成质量和推理速度，通过在每个去噪步骤中替换原始参数化，将网络调整到准确的时间步骤上，从而提高各种最先进加速方法的性能。

    Oct, 2023

  • RecDiffusion：扩散模型图像拼接的矩形化

    通过扩散学习框架，将图像拼接由非矩形边界转化为矩形边界，并利用运动扩散模型和内容扩散模型来提高几何准确性和视觉效果，在公开基准测试中取得了优于以往方法的定量和定性评估结果。

    Mar, 2024

  • 扩散模型的推断稳定性

    提出了一种新的序列感知损失函数，以减小估计误差从而提高采样质量，并通过实验证明了该方法相比于传统损失函数在图像泛化质量方面的显著改进。

    Dec, 2023

  • 优化时间步长加速扩散采样

    通过设计一个优化问题，并使用约束信任区域方法，我们提出了一种针对特定数值 ODE 解算器的扩散概率模型 (DPMs) 寻找更合适的时间步长的通用框架，该框架能显著改善图像生成性能。

    Feb, 2024

  • 通过文本与图像扩散模型个性化定制 360 度全景图

    基于扩散模型的个性化文本到图像（T2I）合成已经引起了最近研究的广泛关注，然而现有的方法主要集中在定制主题或风格上，忽视了全局几何的探索。本研究提出了一种集中于 360 度全景定制的方法，使用 T2I 扩散模型，它在本质上具有全局几何特性，通过精心制作的图像 - 文本配对数据集进行微调，最终采用 LoRA 进行训练。实验证明了我们定制的模型与所提出的 StitchDiffusion 相结合在生成高质量的 360 度全景图像方面的有效性。此外，我们的定制模型在产生未在微调数据集中见过的场景方面表现出卓越的泛化能力。

    Oct, 2023

  • 通过时移采样缓解扩散模型中的暴露偏差

    本文研究了扩散模型中存在的曝光偏差，并提出了一种名为 Time-Shift Sampler 的推理方法，该方法可以在不重新训练模型的情况下缓解曝光偏差，并通过实验结果证明了其有效性。

    May, 2023

  • AutoDiffusion：无需训练的自动扩散模型加速的时间步长和架构优化

    我们提出了一种统一的框架来在扩散模型中实现有效的图像生成，其中搜索最佳时间步骤序列和压缩模型架构，无需进一步的训练。通过引入两阶段进化算法和使用生成和真实样本之间的 FID 评分来加速搜索过程，该方法在仅使用几个时间步骤时实现了出色的性能。

    Sep, 2023

  • TEDi: 长期运动合成的时间交织扩散

    我们提出了一种将渐进扩散概念（沿着扩散时间轴操作）扩展到运动序列的方法，用于支持时变去噪，从而将两个轴相互纠缠，通过迭代去噪逐渐增加噪声位移的动作缓冲区，并产生任意长的帧流，为长期运动合成提供了新的框架。

    Jul, 2023

  • Patch Diffusion：扩散模型的更快、更省数据训练

    提出了一种名为 Patch Diffusion 的通用 Patch-wise 训练框架，其核心创新是新的条件分数函数，它在原始图像的 Patch 级别包括 Patch 位置作为附加坐标通道，并且通过训练在多个尺度上对 Patch 大小进行随机和多样化，从而达到显著减少训练时间成本同时提高数据效率以帮助更广泛的用户学习扩散模型。

    Apr, 2023