潜在动态隐式扩散过程

Jun, 2023

Latent Dynamical Implicit Diffusion Processes

Mohammad R. Rezaei

TL;DR本文提出了一种名为 LDIDPs 的新型隐式扩散过程潜在动态变量模型，它利用隐式扩散过程对潜在动态过程进行采样，并相应地产生连续观测样本，LDIDPs 成功地在合成和仿真神经解码问题上得到了测试，并展示了其能够在潜在尺寸上准确地学习动态，同时其隐式采样方法允许高效地从潜在和观测空间生成高质量的连续数据样本。

Abstract

latent dynamical models are commonly used to learn the distribution of a latent dynamical process that represents a sequence of noisy data samples. However, producing samples from such models with high fidelity is challenging due to the complexity and variability of latent and observat

latent dynamical models diffusion-based generative models implicit diffusion processes sequential data neural decoding problems

发现论文，激发创造

去噪扩散隐式模型

本文描述了一种更高效的迭代隐式概率模型 —— 去噪扩散隐式模型（DDIMs），通过构建一类非马尔科夫扩散过程来加速采样过程，相对于去噪扩散概率模型（DDPMs）可以使采样速度提升 10 倍至 50 倍。这种模型可以用于图像生成和语义意义化的图像内插。

Oct, 2020

半隐式去噪扩散模型（SIDDM）

通过匹配隐式和显式因素，我们提出了一种新的方法，以解决生成模型中的采样难题，该方法利用隐式模型匹配噪声数据的边缘分布和前向扩散的显式条件分布，以有效地匹配联合降噪分布，并获得与扩散模型相当的生成性能和比采样步骤少的模型相比更好的结果。

Jun, 2023

使用潜在扩散模型进行高分辨率图像合成

通过在预训练的自编码器的潜在空间中应用扩散模型，引入交叉注意力层到模型体系结构中，以更少的计算要求取得接近最优的性能，实现高分辨率合成，缩小像素级 DMs 对计算资源的需求。

Dec, 2021

GPLaSDI：基于高斯过程的可解释潜变量动力学辨识通过深度自编码器

通过使用高斯过程 (Gaussian process) 对潜空间的 ODE 插值，我们提出了一种新颖的估计固有非侵入式自由度的模型来数值求解带有不确定性的偏微分方程 (partial differential equations)。这个方法在 Burgers 方程、等离子体物理学的 Vlasov 方程以及上升热泡问题上取得了 200 到 100,000 倍的速度提升，相对误差最高为 7%。

Aug, 2023

变分高斯过程扩散过程

本文提出了一种基于连续指数族描述的高斯变分过程的参数化方法，利用凸优化算法来解决具有非线性扩散过程先验的潜在过程的生成模型下的概率推断和学习问题。

Jun, 2023

一个判别性贝叶斯高斯过程潜变量模型用于高维数据

我们提出了一种新的非参数建模方法 LDGD，利用高斯过程（GP）将高维数据映射到潜在的低维流形，通过推断潜变量来有效捕捉数据中的不确定性，提高了模型的预测准确性和鲁棒性。LDGD 不仅能准确地推断流形，而且在预测标签方面的准确性也超过了现有的方法。我们还通过引入诱导点来降低大型数据集中高斯过程（GP）的计算复杂度，实现了批处理训练，提高了处理大规模数据集的效率和可扩展性。此外，我们证明了 LDGD 在预测有限的训练数据标签方面的较高准确性，突显了它在数据可用性受限的场景中的效率和有效性。这些特点为高维数据分析中非参数建模方法的发展奠定了基础，特别是对于高维且复杂的数据领域。

Jan, 2024

具有明确转移概率的解耦扩散模型

本文提出了一种名为 DDM 的扩散模型，通过将复杂的扩散过程分解为两个相对简单的过程，来提高生成效果和速度，它通过显式转移概率近似图像分布，并通过标准维纳过程控制噪声路径；文章还提出了一个新的 DPM 训练目标，能够分别预测噪声和图像成分，同时，DDM 的逆向去噪公式可以自然地支持少数的生成步骤（不需要基于 ODE 的加速器），实验结果表明，DDM 在更少的函数评估方面优于以前的 DPM。

Jun, 2023

使用扩散模型进行未见图像合成

通过使用预训练和冻结的去噪扩散概率模型 (DDPM) 来逆向编码并优化隐藏域，从未见过的域图像合成，证明了这种新颖视角探索和重新思考扩散模型的数据合成广义能力的有效性。

Oct, 2023

使用 LLMs 和潜在扩散模型进行互动式时尚内容生成

该研究提出了使用基于能量的模型（EBMs）的扩散模型的等价性，建议组成多个概率分布的方法，并提出了一个通过 LLM 引导文本生成图像生成新时尚装配和虚拟试穿的流程，其结果表明使用 LLM 生成具有全球创意和文化多样性的时尚风格并减少偏见。

May, 2023

学习离散去噪扩散 ODEs

LD3 是一个轻量级的学习时间离散化的框架，可在采样 Diffusion ODE 时与各种求解器结合使用，从而提高采样效率并减少计算开销。

May, 2024