Feb, 2024

XTSFormer：跨时空尺度变换器用于不规则时间事件预测

PDF
TL;DR事件预测是基于历史事件序列预测未来事件的时间和类型，本论文提出了针对非规则时间事件数据的跨时空尺度变换器（XTSFormer），包括新颖的基于特征的周期感知时间位置编码（FCPE）和分层多尺度时间注意机制。在多个真实世界数据集上的广泛实验表明，XTSFormer 在预测性能方面优于几种基准方法。
event predictionneural temporal point processescross-temporal-scale transformerirregularly timed event dataprediction performance
发现论文，激发创造
  • Pathformer: 适应性路径的多尺度变压器模型用于时间序列预测

    该论文介绍了一种名为 Pathformer 的多尺度 Transformer 模型，通过自适应路径进行多尺度建模，以提高预测准确性和泛化能力，实验证明其在真实数据集上表现出优越的性能和泛化能力。

    Feb, 2024

  • 多尺度变压器金字塔网络用于多变量时间序列预测

    使用多尺度 Transformer 的多变量时间序列预测中，引入了不变量嵌入技术用于捕捉短期时间依赖并将数据投射到高维空间，同时保留时间步和变量维度。进一步，提出了一种新颖的 Multi-scale Transformer 金字塔网络 (MTPNet), 用于有效地捕捉多个不受约束尺度上的时间依赖。在九个基准数据集上的广泛实验证明，提出的 MTPNet 优于最新的先进方法。

    Aug, 2023

  • FormerTime：用于多元时间序列分类的分层多尺度表示

    提出了一种名为 FormerTime 的模型，结合特征金字塔和 Transformers 模型，解决了时间序列分类中长期依赖性建模和计算效率的问题，并在 10 个 UEA 存档数据集上获得了比竞争基线更好的分类性能。

    Feb, 2023

  • 适用于不规则采样的多变量时间序列的兼容式 Transformer

    提出了 Compatible Transformer (CoFormer)，一种基于 Transformer 的编码器，用于处理不规则多变量时间序列，并在分类和预测等下游任务中表现出显著的性能优势。

    Oct, 2023

  • ETSformer: 指数平滑变压器用于时间序列预测

    本研究提出了一种基于 ETS 的改进型 Transformer 架构 ——ETSFormer，通过引入指数平滑、曲线趋势拟合和频率部分的注意力机制和模块化分解来提高时间序列预测的准确性和效率，实现了对时间序列数据的分解和解释。

    Feb, 2022

  • 连续时间域中的时间事件集预测深度表示学习

    使用基于时空点过程的方法，通过加入上下文事件嵌入、时间信息和领域特征来建立模型，解决了连续时间域中预测事件集强度的问题，并通过大量实验表明，该方法在预测指标和计算效率上优于现有方法。

    Sep, 2023

  • Stecformer: 空间 - 时间编码叠加变换器用于多元长期时间序列预测

    本研究提出了一种完整的解决方案，包括特征提取和目标预测，旨在解决多变量长期时间序列预测中的空间特征提取和不同预测时期的一致性问题。新的方法称为 “时空编码串联变压器（Stecformer）”，其采用高效的时空编码提取器和级联解码预测器来改善基线模型的性能，并在五个基准数据集上实现了与基线模型可比较的最先进性能。

    May, 2023

  • 计时器：用于大规模时间序列分析的 Transformer

    本研究论文致力于提出一种大规模时间序列模型 (Time Series Transformer)，通过深度学习和大规模预训练，解决了小样本情境下时间序列分析中的性能瓶颈问题。

    Feb, 2024

  • 多层次时间序列变换器用于长期预测

    提出了一种多分辨率时间序列变压器（MTST）框架，采用了多支架构来同时建模不同分辨率的多样化时间模式，通过相对位置编码提取不同尺度上的周期成分，与现有的时间序列变压器相比，在几个真实世界数据集上进行了广泛实验，证明了 MTST 在与最先进的预测技术的比较中的有效性。

    Nov, 2023

  • MSHyper：多尺度超图变换器用于长程时间序列预测

    使用多尺度超图转换器（MSHyper）框架，提出了一种更全面的模式交互建模方法，通过引入多尺度超图和超边图来建模高阶模式交互，同时引入三阶段消息传递机制来聚合模式信息和学习不同尺度时间模式之间的交互强度。实验证明，MSHyper 在五个真实世界数据集上取得了最先进的性能，相对于最佳基线方法，在均方误差和平均绝对误差分别平均减少了 8.73% 和 7.15% 的预测误差。

    Jan, 2024