多元时间序列中的时间箭头
本文研究了非高斯时间序列的单向线性自回归移动平均(ARMA)模型,发现回归未来到过去时该模型成立,但回归过去到未来时则不成立,这是因为回归残差只是无相关性而不是无统计独立性。作者从物理系统的角度认为,时间反演不对称性与非平衡态的热力学熵产生有关,对线性自回归移动平均模型的不对称也有类似的关联。文中使用一种物理玩具模型来研究线性耦合的动态演化,发现线性性只存在于正向条件概率而不是反向条件概率中,这是因为环境永久地提供了一些在与系统交互之前处于产物态的粒子,但此后则呈现出了统计上的依赖性。因此,交互会生成熵,本文将反向条件概率的非线性程度与熵产生的最小值进行了量化。
Aug, 2009
我们通过时间方向性的角度研究自回归大规模语言模型的概率建模,经验性发现这类模型在自然语言建模方面存在时间上的非对称性:在预测下一个标记和预测上一个标记时的平均对数困惑度存在差异。这种差异在多个模式(语言、模型大小、训练时间等)上既微妙又非常一致。从信息论的角度来看,理论上认为不应该存在这种差异。我们提供了一个理论框架,解释了稀疏性和计算复杂性考虑如何导致这种非对称性,并概述了我们结果带来的一些新的研究方向。
Jan, 2024
该研究提出了一种具有弹性时间序列 (ARS) 模型,该模型涉及估计缺失变量作为弹性时间序列和其他变量的演化函数,以实现动态时间序列变量的预测。
Jun, 2023
本研究将经典 ARMA 时间序列模型表达成有向图形式,在此基础上将确定性关系替换为小方差的高斯分布,形成随机 ARMA(ARMA)模型,这种改进允许我们使用 EM 算法学习参数并进行预测,即使存在数据丢失。实验结果表明,移动到随机 ARMA 模型能够通过更好的平滑获得更高的精度,并演示了交叉预测和更好平滑的改进在实际数据上的效果。
Jul, 2012
本文提出了一种基于 VAR ($p$) 模型的自回归方法,用于非参数估计多元 Hawkes 点过程中的事件计数,并将其应用于金融交易数据的双变量事件流分析,揭示了限价单和市场单之间引人注目的不对称关系。
Sep, 2015
提出了一种高效的非线性建模方法,通过线性 VAR 过程和分量间非线性映射来生成时间序列,并使用定制算法解决优化问题,提高了 VAR 系数的支持识别和时间序列预测能力。
Sep, 2023
本文介绍了一种基于向量自回归 (VAR) 过程的因果推断方法,旨在更准确地揭示因果关系,叙述了如何从非实验时间序列中识别关键部分的过程,并提出了两种估计算法并评估其在合成和实际数据上的效果。
Nov, 2014
本文针对使用 ARMA 模型预测时间序列的问题,使用遗憾最小化的技术,开发了有效的在线学习算法,并且在不假设噪声项服从高斯分布、独立同分布等条件下进行预测,进一步展示了我们算法的性能在渐近上趋向于最佳 ARMA 模型的表现。
Feb, 2013
本文从因果关系的角度出发,将异常检测问题视为不遵循正常因果机制来生成多变量数据的实例,并提出了一种基于因果关系的框架来检测异常和根本原因。
Jun, 2022
本研究提出一种新的方法 DeepVARwT,利用深度学习模型 Long Short-Term Memory (LSTM)网络,在满足因果条件的情况下同时估计趋势和相关性结构,应用于预测领域并与先进的模型进行比较。
Sep, 2022