梯度提升树与神经网络结合的层次时间序列点与概率预测

Oct, 2023

梯度提升树与神经网络结合的层次时间序列点与概率预测

Blending gradient boosted trees and neural networks for point and probabilistic forecasting of hierarchical time series

Ioannis Nasios, Konstantinos Vogklis

TL;DR通过采用渐进式提升树和神经网络模型的混合方法，本文解决了点预测和概率预测问题。我们的方法包括将任务转化为对单日销量的回归、信息丰富的特征工程、创建一组多样化的先进机器学习模型以及精心构建的验证集用于模型调优。通过选择多样的机器学习模型和重要的验证示例，我们的方法在精确性和不确定性跟踪中获得了金牌水平的排名。

Abstract

In this paper we tackle the problem of point and probabilistic forecasting by describing a blending methodology of machine learning models

point and probabilistic forecasting blending methodology machine learning models regression on sales validation sets

发现论文，激发创造

在零售领域中使用梯度提升树进行可扩展的概率预测：实践者的方法

对于规模更大的电子商务公司的预测挑战，在较少的系列和间歇性数据的聚合级别上进行自顶向下的预测，并进行分解以获取决策级别的预测，通过分布假设产生概率预测，并使用子样本进行直接训练的可扩展方法。

Nov, 2023

混合梯度提升树和神经网络预测手术室数据

本文基于长短时记忆网络 (LSTM) 和梯度提升树 (XGB) 对电子病历数据进行特征学习和预测，我们利用 LSTM 对长期依赖进行建模，将这些特征加入到 XGB 模型中，使其获得显著提高的性能。

Jan, 2018

超树预测

本文介绍了超树的概念，并提供了将基于树的模型应用于时间序列数据的新方向。与直接预测时间序列的传统决策树应用不同，超树旨在学习目标时间序列模型的参数。我们的框架利用了增强树的基于梯度的性质，使我们能够将超网络的概念扩展到超树，并对树模型引入时间序列归纳偏差。通过将目标时间序列模型的参数与特征相关联，超树解决了参数非平稳性的挑战，并使基于树的预测能够扩展到其初始训练范围之外。通过我们的研究，我们旨在探索超树在各种预测场景中的有效性，以及扩大梯度增强决策树在时间序列预测中的应用。

May, 2024

具有贝叶斯建模的分层时间序列预测

我们专注于从贝叶斯角度进行预测调和，提出了一种方法来预测调和，并定义了具有线性结构的普通情况 - 线性高斯调和。我们在合成和真实数据集上评估了这些方法，并将它们与该领域的其他工作进行了比较。

Aug, 2023

基于图形的时间序列聚类用于端到端分层预测

本文介绍一种基于图形结构的方法，用于在时间序列预测的深度学习中统一相对和层次的归纳偏见，该方法相对其他方法效果更佳。

May, 2023

深度预测因素

本研究提出了一种混合模型，将经典时间序列模型与基于深度神经网络的模型结合起来，通过全局深度组件实现可扩展性和数据驱动，同时通过本地经典模型处理不确定性。实验证明，该模型在数据效率、准确性和计算复杂性方面具有优势。

May, 2019

利用高斯过程的深度因素进行预测

本文提出了一种结合了经典时间序列模型和深度神经网络优点的数据驱动和可扩展的混合模型，通过潜在的全局深层次组件和局部的经典高斯过程模型来处理不确定性，并在实践中展示了比现有技术更高的准确性。

Nov, 2018

时间序列预测是否真的需要深度学习模型？

本文介绍了一种基于时间序列的深度学习方法及其与传统机器学习方法的比较结果，结果表明，输入变换可以提高传统 GBRT 模型的性能，使其优于所有评估的最新 DNN 模型。

Jan, 2021

层次混合网络用于连贯的概率预测

Hierarchical Mixture Networks (HINT) is a model family for efficient and accurate forecasting, specialized on multivariate mixture with coherence via bootstrap reconciliation, and robustified against time series scale variations with normalized feature extraction and recomposition, achieving 8% sCRPS improved accuracy across five datasets compared to the current state-of-the-art, while conducting ablation studies on its components and investigating theoretical properties.

May, 2023

PROFHIT：层次时间序列的概率鲁棒预测

PROFHIT 提出了一种全概率层次预测模型，它通过引入 Distributional Coherency 正则化来从层次关系中学习完整预测分布，从而实现鲁棒和校准的预测，能够适应变化的层次一致性，并在广泛的数据集上获得了比其他方法高达 41-88％的准确性和校准性能提升，在数据缺失时仍能提供可靠的预测。

Jun, 2022