用于预测的季节性编码器 - 解码器架构
本文概述了深度学习建模在时序数据领域的应用,介绍了单步和多步预测中通用的编码器和解码器的设计,分析了每一种方法如何加入时间信息以提高预测结果。接下来,介绍了深度学习和统计模型的混合模型在时间序列预测中的最新进展,最后讨论了深度学习如何为决策支持提供便利。
Apr, 2020
本研究提出了一种名为增强解码器的新型训练方法,通过引入辅助模型生成备用解码器输入来解决多步骤时间序列预测中的累积误差问题,并利用强化学习算法动态选择最优输入以提高准确性。综合实验表明,该方法在多个数据集上优于常见训练方法。此外,该方法在基于自注意力的序列到序列预测模型中同样表现良好。
Jun, 2024
本文提出了一种名为 RNN Encoder-Decoder 的神经网络模型,该模型由两个循环神经网络(RNN)组成,它将符号序列编码成固定长度的向量表示,并将该表示解码成另一个符号序列,并通过联合训练编码器和解码器来优化目标序列的条件概率,然后将该模型生成的条件概率应用于现有的对数线性模型中,从而提高统计机器翻译系统的性能,并且该模型能够学习到一种语义和句法上有意义的语言短语表示。
Jun, 2014
通过一种新颖的建模框架,我们可以有效地编码季节性气候预测,为供应链功能提供强大而可靠的时间序列预测。这种编码框架通过模块化神经网络架构实现了对潜在表示的有效学习,从而使得在多个实际数据集上,相对于现有需求预测方法,将季节性气候预测结果建模的误差降低了大约 13%至 17%。
Sep, 2023
本文提出两种深度学习模型来准确预测相关时间序列,第一个模型在每个时间序列上使用卷积神经网络,第二个模型通过在每个时间序列上添加自编码器,实现了多任务学习。在两个现实世界的相关时间序列数据集上,实验证明所提出的两种模型有效且优于大多数基线。
Aug, 2018
本文通过详实的实证研究和开源软件框架介绍了现有基于循环神经网络的预测模型,提出了针对这些模型使用的最佳实践和指导方针。研究发现,当数据集的时间序列具有同质季节模式时,RNN 能够直接模拟季节性;否则,建议事先对数据进行季节性去趋势处理。通过与 ETS 和 ARIMA 模型的比较,研究表明,实现了(半)自动化的 RNN 模型在许多情况下是可以竞争使用的。
Sep, 2019
本文提出了一种基于分层循环编码器解码器结构的模型,通过采样 softmax 估计开发了一种训练算法,可以在不需要高频解码器的情况下训练整个模型,显著降低了自回归模型训练的存储需求并改进了总的训练时间。
Jun, 2023
本文研究旨在回顾深度学习在时间序列预测方面的应用,并比较其性能,结果表明长短时记忆网络(LSTM)和卷积神经网络(CNN)是最佳选择,其中 LSTM 获得最准确的预测结果,而 CNN 在不同参数配置下能够实现可比较的性能和更高的效率。
Mar, 2021