非自回归条件扩散模型用于时间序列预测

ICMLJun, 2023

非自回归条件扩散模型用于时间序列预测

Non-autoregressive Conditional Diffusion Models for Time Series Prediction

Lifeng Shen, James Kwok

TL;DR本文提出了一种基于 non-autoregressive diffusion model 的时间序列预测模型 TimeDiff，通过引入 future mixup 和 autoregressive initialization 两种新的条件机制，实现了高质量的时间序列预测，并在实验中展现了超过现有模型的表现。

Abstract

Recently, denoising diffusion models have led to significant breakthroughs in the generation of images, audio and text. However, it is still an open question on how to adapt their strong modeling ability to model time series. In this paper, we propose TimeDiff, a non-autoregressive dif

denoising diffusion models time series prediction future mixup autoregressive initialization real-world datasets

发现论文，激发创造

自回归去噪扩散模型用于多元概率时间序列预测

本研究提出了一种基于 TimeGrad 的自回归模型，用于多元概率时间序列预测，该模型在每个时间步长从数据分布中采样，通过估计梯度进行采样，采用扩散概率模型，优化可变界，通过 Langevin 采样将白噪声转换为感兴趣的分布样本，在实验中表明，该模型是当前实现多元概率预测的最佳方法之一，可实际应用于数千个相关维度的真实数据集。

Jan, 2021

预测、优化、合成：自引导扩散模型用于概率时间序列预测

探索了无特定任务条件下以时间序列为基础的扩散模型，通过自我引导机制，在推理过程中对 TSDiff 进行条件处理，并且不需要辅助网络或改变训练程序。展示了方法在预测、细化和合成数据生成三个时间序列任务中的有效性。

Jul, 2023

TimeAutoDiff：结合自动编码器和扩散模型的时序表格数据合成

通过结合变分自动编码器（VAE）和去噪扩散概率模型（DDPM）的思想，我们提出了一种名为 TimeAutoDiff 的模型，用于生成时间序列表格数据。该模型能够处理各种类型的时间序列表格数据，具有良好的保真度和实用性，并且在生成速度上有显著改进；此外，它还实现了对具有异构特征的多序列时间序列表格数据的有条件生成。

Jun, 2024

DiffAR: 去噪扩散自回归模型用于原始语音波形生成

本文提出了一种基于扩散的概率端到端模型，用于生成原始语音波形，该模型通过自回归的方式顺序生成重叠帧，可以实现无限语音时长的合成，并保持高保真度和时间连贯性，通过直接处理波形具有优势，可以创建局部声学行为，同时该模型是随机的，生成略有差异的波形变体，实验结果表明相较于其他最先进的神经语音生成系统，所提出的模型具有更高的合成质量。

Oct, 2023

强化条件下的文本扩散

通过分析文本扩散模型的限制，本文提出了一种名为 TREC 的新型文本扩散模型，通过强化条件和时间感知方差缩放来减轻语言离散性问题，在与自回归、非自回归和扩散基线的对比实验中展示了 TREC 的竞争力，并通过定性分析显示其在优化样本中充分利用扩散过程的先进能力。

Feb, 2024

随机扩散：一种用于随机时间序列预测的扩散概率模型

通过利用扩散概率模型和随机扩散（StochDiff）模型，本研究提出了一种新型方法，学习每个时间步长的数据先验知识，从而更好地对高度随机化的时间序列进行建模，通过实验验证了该方法在随机时间序列预测中的有效性，并展示了在实际医疗指导中的应用潜力。

Jun, 2024

非去噪前向时间扩散

该论文通过扩散过程进行生成模型，通过选择适当的扩散桥混合，构造了以所需数据分布为目标的扩散过程，并且通过新的训练目标，可以通过神经网络进行逼近。

Dec, 2023

ImDiffusion: 多元时间序列异常检测用填充扩散模型

该研究提出了一种使用时间序列插补和扩散模型相结合的新型异常检测框架 ImDiffusion，用于准确和可靠地检测多元时间序列数据中的异常数据，该框架在基准数据集上的广泛实验中表现出较高的检测准确性和时效性，是一种开创性的方法。

Jul, 2023

使用自回归扩散模型的可控运动合成和重建

该研究介绍了 MoDiff，它是一个基于自回归概率扩散模型的运动序列生成模型，其结合了跨模式 Transformer 编码器和基于 Transformer 的解码器，以生成控制时序依赖性的动作。该模型在运动合成方面表现优异，并通过数据丢弃方法来提高数据表示和运动合成的鲁棒性。

Apr, 2023

时间序列预测中扩散模型的崛起

本研究调查了扩散模型在时间序列预测中的应用，介绍了扩散模型的背景信息、条件方法以及其在时间序列预测中的应用，并对 11 个具体的时间序列实现进行了分析、比较和介绍。本研究在扩散模型在时间序列预测中的应用和对当前领域的最新研究方向提供了全面的探索，为人工智能和时间序列分析领域的研究人员提供了有价值的资源。

Jan, 2024