VQ-AR: 向量量化自回归概率时间序列预测
使用离散状态空间隐马尔可夫模型、最新的神经网络架构和受向量量化变分自动编码器启发的训练过程,结合大数据集中成千上万个异构时间序列的预测任务是众多领域的一个关键统计问题。我们提出了一种新的预测模型,引入了离散后验分布和两阶段训练过程,从而提供了对潜在状态和发射分布参数的交替训练。通过学习多个发射规律和根据隐藏过程动力学临时激活它们,所提出的方法能够探索大数据集和利用可用的外部信号。我们使用多个数据集评估了该方法的性能,并展示它优于其他最先进的解决方案。
Apr, 2024
该论文提出 DeepAR 方法,通过基于大量相关时间序列训练自回归循环网络模型,实现准确的概率预测,并在多个真实预测数据集上展示了与现有方法相比约 15%的准确度提升。
Apr, 2017
本文提出了一种两阶段的框架,由残差量化 VAE(RQ-VAE)和 RQ-Transformer 组成,旨在有效地生成高分辨率图像,通过精确的逼近,我们可以将 256×256 像素的图像表示为 8×8 特征映射,并且 RQ-Transformer 可以在保证生成高品质图像的同时减少计算成本。
Mar, 2022
本文介绍了一种概率时间序列预测的一般方法,通过结合自回归循环神经网络和隐含量子网络来建模时间动态并学习一系列时间序列预测模型,在真实数据和模拟数据上得出的结果表明,该方法在预测准确性和估计潜在时间分布方面具有优势。
Jul, 2021
提出了一种名为 TimeVQVAE 的新模型,它使用矢量量化技术解决时间序列生成(TSG)问题,通过在时频域中分离出低频和高频来保留时间序列的重要特征,并使用双向转换模型学习离散潜在空间的先验知识,使其具有更好的全局时间一致性和更好的质量。
Mar, 2023
运用矢量量化变分自编码器(VQ-VAEs)和基于扩散的预测模型,通过离散潜在空间和实例级编码矢量的动态调整,实现轨迹预测的准确性和多样性,达到了三个标准基准测试的最新性能水平。
May, 2024
该论文基于深度学习提出了 DeepAR 框架,用于时间序列预测。针对 DeepAR 模型在时间序列中的拐点会降低其预测性能的缺点,本文提出了一种检测拐点并将其纳入模型的方法。实验证明,该方法在无拐点情况下与标准 DeepAR 表现相同,在有拐点情况下表现更好,并且批处理大小是处理 DeepAR、Transformers 和其他现代预测模型中变化点问题的一种有效而简单的方式。
Feb, 2023