Jan, 2024

概率降维向量自回归模型与斜投影

PDF
TL;DR本研究提出了一种概率降维向量自回归（PredVAR）模型，从高维噪声数据中提取低维动力学。该模型利用斜投影将测量空间划分为容纳降维动力学的子空间和互补的静态子空间。基于此，我们使用最大似然和期望最大化（EM）框架开发了一个迭代的 PredVAR 算法。该算法交替更新潜在动力学和最优斜投影的估计值，产生按预测可行性排序的动态潜在变量和与外投影模型一致的显式潜在 VAR 模型。通过合成 Lorenz 系统和 Eastman 化工的工业过程数据集，证明了这种方法的优越性能和效率。
probabilistic reduced-dimensional vector autoregressivepredvaroblique projectioniterative predvar algorithmlatent var model
发现论文，激发创造
  • 高效易解释的多时间序列非线性建模

    提出了一种高效的非线性建模方法，通过线性 VAR 过程和分量间非线性映射来生成时间序列，并使用定制算法解决优化问题，提高了 VAR 系数的支持识别和时间序列预测能力。

    Sep, 2023

  • 利用时变低秩自回归方法从时空数据中发现动态模式

    本文研究了从时空数据中发现可解释动态模式的问题，提出了一种基于低秩张量分解的时变降维自回归模型，用于模型压缩和模式发现，并证明了该模型在多个非线性动力系统的时空数据建模和特征提取方面的有效性。

    Nov, 2022

  • 视觉自回归建模：通过下一尺度预测实现可扩展图像生成

    Visual AutoRegressive modeling (VAR) improves autoregressive image generation surpassing diffusion transformers, exhibiting power-law scaling laws and zero-shot task generalization.

    Apr, 2024

  • 使用受限自动编码器学习非线性投影用于动态系统的降阶建模

    最近开发的降阶建模技术旨在从数据中学习的低维流形上近似非线性动力系统。我们介绍了一种由约束的自动编码器神经网络描述的参数化非线性投影类，其中流形和投影纤维都是从数据中学习得到的。此外，我们还提出了一些新的动力学感知成本函数，以促进学习考虑快速动力学和非正常性的斜投影纤维。为了展示这些方法及其解决的特定挑战，我们提供了一个关于涡街现象的三状态模型的详细案例研究。同时，我们还提出了几种基于我们提出的非线性投影框架构建计算高效的降阶模型的技术。这包括一种用于避免计算 Grassmann 流形上有害的权重矩阵收缩的新型稀疏促进惩罚项的编码器。

    Jul, 2023

  • 高维向量自回归的低秩和结构化建模

    提出一种新颖的方法来准确估算低秩和结构稀疏高维 VAR 模型中的网络 Granger 因果交互作用，该方法采用核范数和 lasso（或 group lasso）惩罚的组合正则化框架，证明了该方法的估计误差速率的非渐近性上界，并演示了该方法在合成和真实数据上的表现优于标准稀疏 VAR 估计。

    Dec, 2018

  • 高斯过程的投影预测模型选择

    提出一种新的高斯过程模型简化方法，通过选择预测相关性最高的少量变量来减少变量数目，从而提高模型解释能力，降低计算成本和新预测的时间消耗。

    Oct, 2015

  • VARX-L: 大规模向量自回归模型的结构化正则化方法

    本研究提出了一种基于向量自回归模型（VAR）和外生变量模型（VARX）的降维方法，采用标量回归的正则化技术减小 VAR 和 VARX 模型的参数空间，提高了宏观经济时间序列的低频高维预测精度。

    Aug, 2015

  • 估计结构向量自回归模型

    本文研究了具有结构的 VAR 模型参数在相关性干扰下的估计误差问题，发现在依赖样本的情况下，使用各种 norm 捕捉结构可与使用 Lasso-type 独立样本估计器获得相同级别的估计误差，分析方法基于 generic chaining, sub-exponential martingales 和 spectral representation of VAR models。

    Feb, 2016

  • 多元概率时间序列预测与相关误差

    通过对误差的自相关特性进行高效建模，本研究提出一种能够有效量化预测不确定性的方法，并在多个实际数据集上验证了其在提高预测准确性和不确定性量化质量方面的有效性。

    Feb, 2024

  • DeepVARwT: 带有趋势的 VAR 模型的深度学习

    本研究提出一种新的方法 DeepVARwT，利用深度学习模型 Long Short-Term Memory （LSTM）网络，在满足因果条件的情况下同时估计趋势和相关性结构，应用于预测领域并与先进的模型进行比较。

    Sep, 2022