Jul, 2023

基于距离相关性的方法对循环神经网络在时间序列预测中的有效性进行表征

PDF
TL;DR通过距离相关度的多功能度量方法，我们研究了 RNNs 的组成部分与时间序列特征之间的联系并解释了它们的性能差异。我们发现 RNN 的激活层能够很好地学习时间序列的滞后结构，但在连续几个层中逐渐丧失了该信息，从而降低了具有较大滞后结构的序列的预测质量。我们还发现激活层无法充分建模移动平均和异方差时间序列过程，并通过热图可视化不同网络超参数选择下的激活层进行比较，以识别其对预测性能的影响。因此，我们的研究结果可以帮助从业者在无需进行实际训练和评估网络的情况下评估 RNNs 在给定时间序列数据上的效果。
time series forecastingrecurrent neural networksdistance correlationlag structuresforecast performance
发现论文，激发创造
  • 使用深度神经网络进行相关时间序列预测：结果概述

    本文提出两种深度学习模型来准确预测相关时间序列，第一个模型在每个时间序列上使用卷积神经网络，第二个模型通过在每个时间序列上添加自编码器，实现了多任务学习。在两个现实世界的相关时间序列数据集上，实验证明所提出的两种模型有效且优于大多数基线。

    Aug, 2018

  • 循环神经网络用于时序预测：现状和未来方向

    本文通过详实的实证研究和开源软件框架介绍了现有基于循环神经网络的预测模型，提出了针对这些模型使用的最佳实践和指导方针。研究发现，当数据集的时间序列具有同质季节模式时，RNN 能够直接模拟季节性；否则，建议事先对数据进行季节性去趋势处理。通过与 ETS 和 ARIMA 模型的比较，研究表明，实现了（半）自动化的 RNN 模型在许多情况下是可以竞争使用的。

    Sep, 2019

  • 循环神经网络的最近进展

    本文对循环神经网络的基本原理、最新进展和研究挑战进行了说明，介绍了针对学习长期依赖问题的新进展，适合该领域的新手和专业人士。

    Dec, 2017

  • 时间序列预测的循环神经网络

    本文介绍了一种基于递归神经网络的时间序列预测框架，包括特征工程、特征重要性、点和区间预测以及预测评估，并使用 LSTM 和 GRU 网络进行了实证研究。

    Jan, 2019

  • 评估 LSTM 网络中协变量预测的有效性用于时间序列预测

    LSTM 网络在时间序列预测任务中表现出色，但是在集成未来、依赖时间的协变量方面的结构不够灵活。本研究通过引入高度相关的协变量到未来时间步的人工时间序列数据集中，评估了 LSTM 网络在考虑这些协变量时的性能，并将其与单变量基线进行了比较。研究结果显示，联合训练协变量和目标变量可以提高模型的整体性能，但在多变量和单变量预测之间存在显著的性能差异。这些结果表明，LSTM 结构可能不适用于那些协变量预测通常会提升模型准确性的预测任务。

    Apr, 2024

  • 基于循环神经网络的关系分类

    本文提出了一种基于循环神经网络的简单框架，并将其与基于卷积神经网络的模型进行比较。该模型在处理句子关系分类问题时具有学习长距离依赖关系模式的优点，并在使用 MIMLRE 数据集的实验中表现出优异的性能。

    Aug, 2015

  • 循环神经网络在序列学习中的关键评估

    本文对于近三十年来产生和实践了重要的循环神经网络（RNN），LSTM 和 BRNN 等模型的研究进行综述，旨在提供一个自成体系的最前沿阐述和历史视角，并引用了相关研究文献。

    May, 2015

  • 可视化和理解循环网络

    使用字符级语言模型作为可解释的测试平台，本研究分析了 LSTM 的表示、预测和错误类型，并揭示了其提高性能的长程结构依赖性的来源。

    Jun, 2015

  • 基于记忆网络的多元时间序列预测解决方案

    提出了一种名为基于记忆的时序网络的深度学习模型，具有较强的可解释性，旨在解决传统方法无法捕捉复杂模式或在多重变量中融合信息的问题。

    Sep, 2018

  • R2N2：残差循环神经网络用于多元时间序列预测

    提出了一种名为 R2N2（残余 RNN）的混合模型，通过简单的线性模型（如 VAR）对时间序列进行建模，并使用 RNN 对其残余误差进行建模，在航空领域和气候领域中的实证评估表明，与单独使用 VAR 或 RNN 相比，R2N2 具有竞争力且更快速地训练，同时需要较少数量的隐藏单元。

    Sep, 2017