HiPerformer：基于置换等变性的层次化 Transformer 用于时间序列预测

May, 2023

HiPerformer：基于置换等变性的层次化 Transformer 用于时间序列预测

HiPerformer: Hierarchically Permutation-Equivariant Transformer for Time Series Forecasting

Ryo Umagami, Yu Ono, Yusuke Mukuta, Tatsuya Harada

TL;DR本文提出基于分层置换等变性的模型，用于考虑相同组内和组间特征的股价数据分析与预测，并在实际数据实验中得到了优异的表现。

Abstract

It is imperative to discern the relationships between multiple time series for accurate forecasting. In particular, for stock prices, components are often divided into groups with the same characteristics, and a

time-series forecasting stock prices hierarchical permutation-equivariance data analysis

发现论文，激发创造

分层正则化深度预测

本研究提出了一种可扩展的分层预测方法，利用基础时间序列的系数对分层约束进行建模，并使用一个随时间变化的线性自回归模型，同时考虑了相对时间序列预测的协调约束，实验证明该方法相较于现有分层模型具有显著的预测性能提升。

Jun, 2021

基于图形的时间序列聚类用于端到端分层预测

本文介绍一种基于图形结构的方法，用于在时间序列预测的深度学习中统一相对和层次的归纳偏见，该方法相对其他方法效果更佳。

May, 2023

iTransformer: 倒置变换器用于时间序列预测的有效性

在这项工作中，我们反思了 Transformer 组件的能力，并重新设计了 Transformer 架构，而无需对基本组件进行任何调整。我们提出了 iTransformer 模型，这个模型通过反转注意力机制和前馈网络的职责，以实现对多变量时间序列的预测。iTransformer 模型在几个真实世界的数据集上取得了一致的最先进表现，进一步增强了 Transformer 家族的性能、广泛适用于不同变量、更好地利用任意回望窗口，成为时间序列预测的基本骨干的一个很好的替代方案。

Oct, 2023

分量可交换性的一致时间序列分解

本文提出了一种新颖的使用具有时间序列分解的符合预测时间序列预测方法，在每个分量上应用特定的符合算法，然后合并所得预测区间，以适应不同分量之间的不同可交换性情况。该分解方法在合成和现实数据上进行了详细讨论和经验评估，发现该方法对结构良好的时间序列提供了有希望的结果，但在处理较复杂数据时，受到分解步骤等因素的限制。

Jun, 2024

层次化生成预训练变压器用于时间序列预测

提出了一种名为 GPHT 的新型生成预训练分层变压器架构，通过引入高级网络结构和自监督预训练策略来提高时间序列预测的准确性，并在充足的实验验证中证明其超越了传统预训练模型和监督模型，在传统长期预测任务中取得了良好的效果。

Feb, 2024

具有贝叶斯建模的分层时间序列预测

我们专注于从贝叶斯角度进行预测调和，提出了一种方法来预测调和，并定义了具有线性结构的普通情况 - 线性高斯调和。我们在合成和真实数据集上评估了这些方法，并将它们与该领域的其他工作进行了比较。

Aug, 2023

集合天气预报的置换不变神经网络后处理

本研究使用置换不变的神经网络对天气预报中使用的数值模拟预报集合进行统计后处理，以将原始集合转化为可靠的概率预测分布。通过对比传统方法和神经网络基准方法，我们评估了所获得的预测分布的校准性和锐度，并在针对地表温度和阵风预报的案例研究中展示了最先进的预测质量。为了加深对学习推断过程的理解，我们进一步提出了一种基于置换的重要性分析方法，用于突出训练后处理模型认为重要的集合预测的特定方面。我们的结果表明，大部分相关信息都包含在少数集合内部的自由度中，这可能影响未来集合预测和后处理系统的设计。

Sep, 2023

深度预测因素

本研究提出了一种混合模型，将经典时间序列模型与基于深度神经网络的模型结合起来，通过全局深度组件实现可扩展性和数据驱动，同时通过本地经典模型处理不确定性。实验证明，该模型在数据效率、准确性和计算复杂性方面具有优势。

May, 2019

异质半监督学习的置换等变图框架

本文提出了 Haar-type graph framelets 及其相关的神经网络模型 PEGFAN，适用于在异质图上进行多尺度特征提取与深度学习任务，并通过实验验证其在大多数异质图数据集上表现良好。

Jun, 2023

PROFHIT：层次时间序列的概率鲁棒预测

PROFHIT 提出了一种全概率层次预测模型，它通过引入 Distributional Coherency 正则化来从层次关系中学习完整预测分布，从而实现鲁棒和校准的预测，能够适应变化的层次一致性，并在广泛的数据集上获得了比其他方法高达 41-88％的准确性和校准性能提升，在数据缺失时仍能提供可靠的预测。

Jun, 2022