May, 2024

TKAN: 时间 Kolmogorov-Arnold 网络

PDF
TL;DR基于 Kolmogorov-Arnold Networks (KANs) 和 Long Short-Term Memory (LSTM) 的启发，我们提出了一种新的神经网络架构，Temporal Kolomogorov-Arnold Networks (TKANs)，通过整合两种网络，TKANs 在具备记忆管理的 Recurring Kolmogorov-Arnold Networks (RKANs) 层中实现了多步时间序列预测，并提供了对复杂序列模式处理的改进，为超前预测领域的进展提供了显著潜力。
recurrent neural networkslong short-term memorytemporal kolmogorov-arnold networksmulti-step time series forecastingsequential patterns
发现论文，激发创造
  • 循环正交网络和长记忆任务

    本文通过分析两个合成数据集来研究 RNNs 在处理长期依赖问题时的信息存储方法，并阐明了几种不同类型信息在 RNNs 中如何存储，这同时解释了最近采用的指定初始化或转移矩阵约束的方法的成功。

    Feb, 2016

  • 基于长短时记忆循环神经网络的网络流量矩阵预测框架

    本文提出了一种基于 LSTM RNN 框架的网络流量长短期预测方法，并在 GEANT 网络实验数据中验证表明，该方法可以很快地收敛且在相对较小的模型中取得了最先进的短期和长期流量矩阵预测性能。

    May, 2017

  • 树状记忆网络用于建模长期时间依赖关系

    提出了一种基于树形记忆网络的序列映射模型，用于捕获长期和短期依赖关系，并在飞行轨迹建模和行人轨迹建模等实际问题中实现了较好的性能。

    Mar, 2017

  • 循环神经网络和长短时记忆网络：教程和调研

    本研究论文介绍了递归神经网络 (RNN)、 长短期记忆网络 (LSTM) 及其变体，在训练过程中解决长序列中的梯度消失 / 爆炸问题，并详细介绍了 LSTM 中的门控单元，双向 RNN 及 Embeddings from Language Model (ELMo) network 的原理。

    Apr, 2023

  • 可视化和理解循环网络

    使用字符级语言模型作为可解释的测试平台，本研究分析了 LSTM 的表示、预测和错误类型，并揭示了其提高性能的长程结构依赖性的来源。

    Jun, 2015

  • 循环神经网络在序列学习中的关键评估

    本文对于近三十年来产生和实践了重要的循环神经网络（RNN），LSTM 和 BRNN 等模型的研究进行综述，旨在提供一个自成体系的最前沿阐述和历史视角，并引用了相关研究文献。

    May, 2015

  • 循环神经网络（RNN）和长短时记忆网络（LSTM）的基础知识

    该论文旨在通过从信号处理中提取概念，正式导出经典的 RNN 公式，揭示 LSTM 系统的组成部分，并将 RNN 转换为 Vanilla LSTM 网络，以便于理解和实现。在此基础上，作者提出了基于 Vanilla LSTM 的最新扩展，适合机器学习从业者参考和研究。

    Aug, 2018

  • 利用深度神经网络建模长短期时间模式

    本文提出了一个新的深度学习框架 —— Long- and Short-term Time-series network (LSTNet)， 用于解决多元时间序列预测等问题，并在复杂混合循环模式数据上实现了显著的性能提升。

    Mar, 2017

  • 循环神经网络中学习更长记忆

    本文介绍了一种用于解决长期依赖的神经网络结构 —— 循环神经网络，并通过对语言建模等实验得出其同 LSTM 网络有着类似的性能表现。

    Dec, 2014

  • 准循环神经网络

    本文介绍了一种新型的神经序列建模方法 - 准循环神经网络（QRNNs），通过卷积层与最小化的循环池化函数的交替使用，QRNNs 可以在高度并行的情况下完成对序列数据的建模，并且在语言建模、情感分类和字符级神经机器翻译等任务中显示出比基于 LSTM 的架构更优异的性能。

    Nov, 2016