使用具有运动编码的随机过程模型稳健地学习噪声时间序列集合
本文介绍了一种非线性概率变分方法 - 变分高斯过程动态系统来处理高维时间序列数据中的非线性降维问题,同时在潜空间中学习动态先验,并允许自动确定潜在空间的维数,该方法在人体运动捕捉数据集和一系列高分辨率视频序列上进行了演示。
Jul, 2011
我们开发了一种新的时空方法,通过集成从摊销变分推断、神经微分方程、神经点过程和隐式神经表示等技术,有效处理随机采样的数据,并对未来观测的概率位置和时间进行预测,从而在预测准确性和计算效率上显著超越现有方法,成为研究和理解在真实无约束条件下观察到的复杂动力系统的有用工具。
Jun, 2024
使用贝叶斯方法和高斯过程,结合符号核、稀疏变分方法等技术对序列数据进行学习,可以使得不同长度的序列可比较且利用奇异分析的强大理论结果;我们还介绍了一种使用引导张量处理未能有利的序列结构方法,将该方法和 LSTMs、GRUs 等结合起来,以建立利用优势的大型模型,并在多元时间序列分类数据集上进行基准测试。
Jun, 2019
多个连续分类任务受到随时间变化的标签噪声的影响。我们首次提出并规范了时间标签噪声问题,该问题在时间序列连续分类中尚未被研究。在这个设置中,多个标签按顺序记录,同时被一个时间相关的噪声函数所污染。我们首先证明了建模标签噪声函数的时间特性的重要性以及现有方法的性能不足。然后,我们提出了一种可以直接从数据中估计时间标签噪声函数从而训练耐噪声分类器的方法。我们展示了我们的方法在存在多样的时间标签噪声函数的情况下使用真实和合成数据可以实现最先进的性能。
Feb, 2024
提出了一种基于生成模型的方法,使用动态高斯混合分布跟踪潜在群集的过渡,实现了时间序列的强大建模,具有参数化的神经网络和结构化推理网络,并引入了一个门控机制来动态调整高斯混合分布。
Mar, 2021
我们提出了一种基于模型的时间序列聚类方法,使用混合通用状态空间模型(MSSMs)。该方法的优势在于能够根据具体的时间序列使用适当的时间序列模型,从而提高聚类和预测精度,并增强估计参数的解释性。该方法使用随机变分推断(stochastic variational inference)来估计 MSSMs 的参数,并利用具有归一化流(normalizing flow)的神经网络作为变分估计器来估计任意状态空间模型的潜在变量。可以使用贝叶斯信息准则(Bayesian information criterion)来估计聚类数量,并通过引入熵退火等优化技巧来防止 MSSMs 陷入局部最优。在模拟数据集上的实验表明,该方法对于聚类、参数估计和聚类数量估计是有效的。
Jun, 2024
本文提出了一个新颖的概率框架,用于处理具有缺失值的多变量时间序列数据的分类问题。通过训练两个部分的模型,一个用于缺失值填补的深度生成模型,一个用于分类的分类器,能够有效地建模填补缺失值带来的不确定性,并且利用新的正则化技术解决了合并模型可能产生的无意义填补解的问题,通过在真实世界数据上进行广泛实验,证明了我们方法的有效性。
Aug, 2023
该论文介绍了一种自动发现复杂时间序列数据准确模型的新方法,该方法通过贝叶斯非参数先验和符号空间上的高斯过程时间序列模型,以及蒙特卡洛方法和马尔可夫链蒙特卡洛方法的结合进行有效的后验推断。实证测量表明,相比以往的马尔可夫链蒙特卡洛方法和贪心搜索结构学习算法,我们的方法在相同模型族上可以提供 10 倍至 100 倍的运行时间加速。我们将该方法应用于 1,428 个计量经济学数据集的重要基准的首次大规模评估,结果显示我们的方法能够发现合理的模型,在挑战性数据上相比于常用的统计和神经网络模型,可以提供更准确的点预测和区间预测。
Jul, 2023
本文提出了一种用于高斯过程建模的新方法,其中计算要求随着数据集的大小呈线性比例增长,与天文时间序列数据的应用作为例子,演示了此方法可用于概率推断星体旋转周期、星震振荡谱和凌星行星参数等问题,具有快速、可解释、可适用于天文数据分析和其他领域等优点。
Mar, 2017