图生成的自回归扩散模型

Jul, 2023

Autoregressive Diffusion Model for Graph Generation

Lingkai Kong, Jiaming Cui, Haotian Sun, Yuchen Zhuang, B. Aditya Prakash...

TL;DR我们提出了一种基于扩散的图生成模型，通过定义在离散图空间中操作的节点吸收扩散过程，设计了扩散排序网络和去噪网络，从而实现了更好或相当的生成性能，并且具有快速的生成速度。

Abstract

diffusion-based graph generative models have recently obtained promising results for graph generation. However, existing diffusion-based graph generative models are mostly one-shot generative models that apply Gaussian diffusion in the dequantized adjacency matrix space. Such a strateg

diffusion-based graph generative models autoregressive diffusion model node-absorbing diffusion process diffusion ordering network denoising network

发现论文，激发创造

AR-Diffusion: 自回归扩散模型用于文本生成

介绍了一种新的生成文本的方法 - 自回归扩散 (AR-Diffusion)，它通过引入动态去噪步骤来解决自然语言中的顺序依赖问题，在各种文本生成任务中表现优异。

May, 2023

Pard：无序置换自回归扩散图生成

PARD 是一个将扩散模型与自回归方法结合的置换不变自回归扩散模型，通过使用特定的局部顺序，以块状的自回归方式生成图。它在没有额外特征的情况下，在分子和非分子数据集上取得了最新水平的性能，且可以扩展到包含 1.9M 个分子的大型数据集。

Feb, 2024

自回归扩散模型

本文介绍了 AR 模型中的一种 Autoregressive Diffusion Models，相较于其他模型具有更高的性能表现。同时，作者还将该模型应用于无损压缩，并表明该模型在此任务上也表现出了极佳的结果，其适用于数据点的压缩及适应各种生成任务。

Oct, 2021

DiffAR: 去噪扩散自回归模型用于原始语音波形生成

本文提出了一种基于扩散的概率端到端模型，用于生成原始语音波形，该模型通过自回归的方式顺序生成重叠帧，可以实现无限语音时长的合成，并保持高保真度和时间连贯性，通过直接处理波形具有优势，可以创建局部声学行为，同时该模型是随机的，生成略有差异的波形变体，实验结果表明相较于其他最先进的神经语音生成系统，所提出的模型具有更高的合成质量。

Oct, 2023

逆蛋白质折叠的图形去噪扩散

提出了一种新颖的图去噪扩散模型，使用氨基酸替代矩阵对扩散过程进行编码，并在多种基准方法中实现了最先进的序列恢复性能，为特定的蛋白质骨架结构生成多样性的蛋白序列具有极大的潜力。

Jun, 2023

视频生成的扩散概率建模

本文提出了一种自回归、端到端优化的视频扩散模型，受到神经视频压缩技术的启发，可用于生成高质量的视频，并提出了可扩展的连续排名概率得分（CRPS）方法，以评估视频的概率预测能力，该方法在自然和仿真视频的多个数据集上比先前方法的感知质量和概率预测有着显著的提高。

Mar, 2022

图生成的离散扩散模型的稀疏训练

SparseDiff 是一种能够在图生成过程中利用稀疏性的去噪扩散模型，它能有效处理边列表表示的图，在保证生成性能的同时提高可伸缩性。

Nov, 2023

利用图传播模型进行网络细化任务

我们提出了一种基于子图扩散的新型图生成框架 SGDM，它不仅提高了图扩散模型的可扩展性和准确性，还通过逆过程执行了多种条件生成任务，包括去噪、扩展和样式迁移等。

Nov, 2023

离散扩散模型下的高效度指导图生成

本文提出了一种名为 EDGE 的新型扩散生成图模型，通过在每个时间步骤随机删除边并最终获得空图的离散扩散过程，鼓励图结构的稀疏性，使其更有效率地生成包含上千节点的大型图，并明确将图中节点度数建模，与基线模型相比，生成的图像质量更高，具有更相似的图统计特征。

May, 2023

基于频谱扩散的图生成

本文介绍了 GRASP 模型，这是一种基于图拉普拉斯矩阵的频谱分解和扩散过程的新颖的图生成模型。我们使用去噪模型从图上采样特征向量和特征值，通过它们可以重构图拉普拉斯矩阵和邻接矩阵。该模型能够处理节点特征，并利用拉普拉斯谱自然地捕捉图的结构特性，在避免其他方法的二次复杂度限制的同时，直接在节点空间中进行操作。我们的实验结果表明，通过截断谱，我们的模型能够更快速而准确地进行生成过程，相对于其他现有方法具有较强的优势。

Feb, 2024