结构化生成：使用分层聚类引导扩散模型

ICMLJul, 2024

结构化生成：使用分层聚类引导扩散模型

Structured Generations: Using Hierarchical Clusters to guide Diffusion Models

Jorge da Silva Goncalves, Laura Manduchi, Moritz Vandenhirtz, Julia Vogt

TL;DRDiffuse-TreeVAE 是一种深度生成模型，将分层聚类集成到 Denoising Diffusion Probabilistic Models（DDPMs）框架中，通过从学习的潜在树结构的根嵌入中进行采样，通过分层路径传播，并利用第二阶段的 DDPM 来改善和生成独特、高质量的图像，从而不仅提高了图像清晰度，还确保生成样本代表其各自的聚类，从而解决了之前基于 VAE 的方法的局限性，推进了基于聚类的生成建模的研究领域。

Abstract

This paper introduces diffuse-treevae, a deep generative model that integrates hierarchical clustering into the framework of Denoising Diffusion Probabilistic Models (DDPMs). The proposed approach generates new i

diffuse-treevae hierarchical clustering denoising diffusion probabilistic models latent tree vae-based structure clustering-based generative modeling

发现论文，激发创造

ClusterDDPM：一种带有去噪扩散概率模型的 EM 聚类框架

利用新型的去噪扩散概率模型（DDPMs）引入创新的期望最大化（EM）框架进行聚类，通过优化学习聚类友好的潜在表示，有效地提高了聚类、无监督条件生成和潜在表示学习的性能。

Dec, 2023

树形变分自编码器

提出了一种新的生成分层聚类模型 ——Tree Variational Autoencoder（TreeVAE），它能够分层地划分样本并发现数据中潜在结构，并利用树形结构中的叶子节点解码器提高了生成性能。TreeVAE 在不同的数据集上表现出了较高的对数似然下界，并且通过条件采样能够从聚类中生成新的样本。

Jun, 2023

使用去噪扩散概率模型对分子图进行变分自编码

本文提出了一种新的分子深度生成模型，该模型在概率潜变量中加入分层结构，并能通过小数据集实现有效的分子潜在向量设计和物性预测。

Jul, 2023

变分深度嵌入：无监督生成聚类的方法

提出了一种无监督生成聚类方法 Variational Deep Embedding (VaDE)，使用高斯混合模型和神经网络来建模数据生成过程，并在 VaDE 中使用变分推断实现更好的聚类效果，并可生成高度逼真的样本，更广泛的混合模型也可以轻松集成。

Nov, 2016

DiffuseVAE: 从低维潜变量中高效、可控、高保真生成

提出了一种新的生成框架 DiffuseVAE，它将 VAE 与扩散建模框架相结合，为扩散模型提供了低维的 VAE 学习到的潜在代码，从而能够用于控制合成等下游任务，并且在速度与质量的平衡方面比标准无条件 DDPM / DDIM 模型要好，同时表现出与最先进的模型可比的综合质量，还显示出天生的对不同类型的噪声具有泛化能力。

Jan, 2022

ClavaDDPM：基于聚类引导扩散模型的多关系数据合成

基于扩散模型，我们提出了基于聚类标签引导的去噪扩散概率模型（ClavaDDPM），用于模拟表格数据之间的关系，特别关注外键约束。通过有效的算法在不同表格间传播学习到的潜在变量，ClavaDDPM 能够有效捕捉远距离的依赖关系。在多种大小的多表数据集上的广泛评估表明，ClavaDDPM 在捕捉长距离依赖关系方面明显优于现有方法，并且在单表数据的实用度指标上具有竞争力。

May, 2024

分层扩散自编码器与分离图像操作

本论文提出了一种通过使用分层扩散自动编码器 (HDAE) 以及基于截断特征的方法对扩散模型潜空间进行描述，从而实现对图像的多种操作和语义合成。

Apr, 2023

无人监督下生成扩散特征用于 3D 分层结构探索

本研究使用生成扩散模型来发现生物医学三维图像中所有内在层次结构，并设计了三种损失来训练预测性的无监督分割网络，使其能够将三维体积分解为具有层次结构的有意义的子体积，取得了优于现有无监督结构发现方法的性能，可在具有挑战性的仿真数据集和真实的脑肿瘤 MRI 数据集上使用。

Apr, 2023

神经场 LDM: 带有分层隐式扩散模型的场景生成

提出了一种名为 NeuralField-LDM 的生成模型，它能够合成复杂的 3D 环境，并取得了比目前现有模型更显著的进步。该模型使用自动编码器训练场景图片，通过特征体素格点表示神经场，并进一步利用潜在自动编码器压缩、映射体素格点至潜在空间，并采用分层扩散模型完成 3D 场景生成管线。此外，展示了如何应用 NeuralField-LDM 在条件场景生成、场景修复和场景风格变化等 3D 内容创作应用领域。

Apr, 2023

扩散变分推断：扩散模型作为表达丰富的变分先验

我们提出了去噪扩散变分推断（DDVI）算法，它是一种基于扩散模型作为表达性变分后验的潜变量模型的近似推断算法。我们的方法通过辅助潜变量来增强变分后验，从而得到一类表达性模型，通过反转用户指定的噪声过程在潜变量空间中进行扩散。通过优化受 wake-sleep 算法启发的边缘似然的一种新的下界，我们拟合这些模型。我们的方法易于实现（它适用于正则化的 ELBO 进一步扩展），与黑盒变分推断兼容，并且优于基于归一化流或对抗网络的替代近似后验类别。当应用于深层潜变量模型时，我们的方法得到了去噪扩散 VAE（DD-VAE）算法。我们将该算法应用于生物学中的一个激励任务 -- 从人类基因组推断潜在祖先 -- 在 Thousand Genomes 数据集上优于强基线模型。

Jan, 2024