May, 2018

使用随机克罗内克因子逼近实时循环学习

HTML
PDF
TL;DR本文提出了一种使用Kronecker分解逼近梯度的KF-RTRL算法，通过在一个合理的假设下，理论分析表明，引入的噪音稳定，且渐近比UORO算法小，对于一类大的RNNs，KF-RTRL是一个无偏差和内存高效的在线学习算法，实验结果表明KF-RTRL算法可用于学习长期依赖性的任务上，并在一些任务上与TBPTT算法性能相当，提出了基于RTRL的方法可能是TBPTT的有前途的替代方法。
发现论文，激发创造
  • 不需回溯的在线循环网络训练

    介绍了一种新算法，NoBackTrack，可用于训练动态系统参数，与传统算法相比，该算法无需进行时间反向传播，缩短计算和内存成本，并可扩展到包括递归神经网络在内的各种动态系统。

    Jul, 2015

  • Kronecker 循环单元

    我们提出了称为Kronecker循环单元（KRU）的灵活的递归神经网络模型，它通过Kronecker分解循环矩阵实现RNNs的参数效率，并通过对因子施加软幺正约束克服循环矩阵的病态条件，从而克服递归神经网络过度参数化的问题。 KRU模型可以降低递归权重矩阵中的参数数量三个数量级，而不会牺牲统计性能。

    May, 2017

  • 实时递归学习的最优Kronecker-Sum逼近

    研究RNN的训练方法，提出新的RTRL逼近算法OK-Kronecker-Sum并证明其优秀性能，经实验验证OK- Kronecker-Sum能够在真实世界任务中匹配TBPTT，在合成字符串记忆任务中优于TBPTTs。

    Feb, 2019

  • 自适应截断反向传播通过时间来控制梯度偏差

    本文提出了一种适应性的TBPTT方案，将时间滞后问题转化为选择一定容忍梯度偏差量的问题，并对于满足几何衰减的真实RNNs，可以通过变化截断长度来控制偏差，证明了该偏差控制了含非凸损失函数的SGD的收敛速度，并设计了一种实用的适应性截断长度的方法。在语言模型任务上的实验表明，适应性TBPTT减轻了固定TBPTT的计算缺陷。

    May, 2019

  • 适用于训练递归神经网络的在线学习算法统一框架

    提出了一个关于递归神经网络在线训练的紧凑结构，其中根据多个标准对算法进行组织：过去与未来朝向，张量结构，随机与确定性，以及闭合形式与数值。测试在两个合成任务上的表现表明，表现根据标准聚集。

    Jul, 2019

  • 一种实用的稀疏逼近算法用于实时循环学习

    介绍了Sparse n-step Approximation(SnAp)来优化Real Time Recurrent Learning(RTRL)的影响矩阵，在保持计算成本低的同时提高了网络的学习速度，特别是在稀疏网络时，n=2时的SnAp能够优于backpropagation in terms of learning speed when updates are done online。

    Jun, 2020

  • 利用稀疏连接和选择性学习的在线实时递归学习

    这篇论文介绍了一种基于循环神经网络的状态构建方法，提出了能够让实时递归学习可扩展的两个约束条件，并在基准测试和政策评估中证明了其有效性。

    Jan, 2023

  • 通过活性和参数的稀疏组合实现高效实时递归学习

    本文提出，对于循环网络，高效的实时递归学习可以通过结合活动稀疏性和参数稀疏性得到显着的计算和存储成本节省，无需使用任何近似来学习过程。

    Mar, 2023

  • 探索实时循环学习的优缺点

    本文研究了将实时递归学习和策略梯度相结合的演员-评论员方法在DMLab、ProcGen和Atari-2600环境中的应用，结果表明，在DMLab记忆任务中，我们的系统相比于训练了10 B 帧的IMPALA和R2D2基线的系统，只需训练不到1.2 B个环境帧就能够达到很好的性能表现。

    May, 2023

  • 无梯度训练递归神经网络

    本研究针对递归神经网络的训练难题，特别是梯度消失和爆炸问题，提出了一种新的计算方法，无需依赖梯度基的方法。通过结合随机特征网络与库曼算子理论，研究表明该方法在训练时间和预测准确性上显著优于传统的梯度基方法，具有重要的应用潜力。

    Oct, 2024