Jun, 2024

时序预测的时间科尔莫戈洛夫 - 阿诺德变换

PDF
TL;DR我们提出了 Temporal Kolmogorov-Arnold Transformer (TKAT) 模型，这是一种新颖的基于注意力机制的架构，旨在通过时间 Kolmogorov-Arnold 网络来捕捉多元数据流中的复杂时间模式和关系，以实现对时间序列中的长期依赖的建模。
multivariate data streamstemporal kolmogorov-arnold transformertemporal kolmogorov-arnold networkstime seriestransformer architecture
发现论文，激发创造
  • TKAN: 时间 Kolmogorov-Arnold 网络

    基于 Kolmogorov-Arnold Networks (KANs) 和 Long Short-Term Memory (LSTM) 的启发，我们提出了一种新的神经网络架构，Temporal Kolomogorov-Arnold Networks (TKANs)，通过整合两种网络，TKANs 在具备记忆管理的 Recurring Kolmogorov-Arnold Networks (RKANs) 层中实现了多步时间序列预测，并提供了对复杂序列模式处理的改进，为超前预测领域的进展提供了显著潜力。

    May, 2024

  • 时间序列的科尔莫戈洛夫 - 阿诺德网络：预测能力与可解释性之间的桥梁

    Kolmogorov-Arnold Networks (KAN) 是 MIT 团队最近提出的一种划时代的模型，提供了一种具有改变游戏规则潜力的创新方法。本文探讨了 KAN 在时间序列预测中的应用，并提出了两个变体：T-KAN 和 MT-KAN。实验证实了这些方法的有效性，证明了它们在时间序列预测任务中显著优于传统方法，不仅提高了预测准确性，还改善了模型的可解释性。

    Jun, 2024

  • Kolmogorov-Arnold 网络（KANs）用于时间序列分析

    通过将 Kolmogorov-Arnold Networks (KANs) 应用于时间序列预测，利用它们的自适应激活函数来增强预测建模能力。证明了在实际卫星流量预测任务中，KANs 相对于传统的多层感知机 (MLPs) 能够以更准确的结果和更少的可学习参数提供更好的性能。此外，还对 KAN-specific 参数的影响进行了深入研究，为自适应预测模型开辟了新的途径，强调了 KANs 作为强大预测分析工具的潜力。

    May, 2024

  • 交通流预测的自适应图空时转换网络

    该论文提出了一种基于自适应图形时空网络和 Transformer 的交叉空间时间注意力机制，在流量预测上的实验结果表明其具有更优秀的性能。

    Jul, 2022

  • 可解释的多时段时间序列预测的时间融合变压器

    介绍了一种名为 Temporal Fusion Transformer（TFT）的基于注意机制的新型深度学习模型，以高效且可解释的方式解决多步预测中存在的多个输入和时间动态性问题，在实际数据集上表现出显著的性能和可解释性。

    Dec, 2019

  • 使用时间序列注意力变换器将多元时间序列表达为图形

    该研究提出了一个名为 TSAT 的多元时间序列表示学习方法，使用动态图来表示时间信息和各变量间的相互关系，并将其应用于时间序列预测问题，实验证明 TSAT 的预测性能显著优于六种先进方法。

    Aug, 2022

  • 基于时间卷积关注的序列模型网络

    我们提出了一种基于时间卷积网络和注意力机制的探索性架构称为 TCAN，它不仅能够实现递归网络的近似替代，还可以吸收前向模型的优势，提高了 word-level PTB、character-level PTB 和 WikiText-2 等文本数据集的 bpc/perplexity 表现.

    Feb, 2020

  • NAST：非自回归时空 Transformer 用于时间序列预测

    本研究针对 Transformer 在时间序列预测中所面临的累积误差和时延问题以及在空间 - 时间依赖性问题上的挑战，提出了一种新型的非自回归 Transformer 架构并引入了新颖的空间 - 时间关注机制，以学习到一个时间影响图来填补空间 - 时间依赖之间的差距，实验结果表明在多样化的自我中心未来定位数据集上，该模型具有表现优异的实时性和准确性。

    Feb, 2021

  • 基于注意力机制的时空图卷积循环神经网络用于交通预测

    本文提出了一种新的空间 - 时间神经网络框架 ASTGCRN，其中包括图卷积循环模块 GCRN 和全局注意力模块，以有效地对运输数据进行复杂的时空依赖性和相关性建模，并采用三个独立模块的时间关注层来实现对全局时间依赖性的有效提取。实验结果表明，这三个模型均具有极佳的预测表现优于基准方法。

    Feb, 2023

  • 图科尔莫戈洛夫 - 阿诺德网络

    我们引入了图科尔莫哥洛夫 - 阿诺德网络（GKAN），一种创新的神经网络架构，它扩展了最近提出的科尔莫哥洛夫 - 阿诺德网络（KAN）的原理，用于图结构化数据。通过采用 KAN 的独特特性，尤其是使用可学习的单变量函数而不是固定线性权重，我们为基于图的学习任务开发了一个强大的模型。

    Jun, 2024