- 白高斯内部噪声对模拟回声态神经网络的影响
该论文研究了噪声对循环神经网络的影响,以训练好的回声状态网络(ESN)为例,探讨了噪声在储层中传播的方式及其统计特性对网络的影响,揭示了不同激活函数和网络结构下,哪种类型的噪声对网络最为关键。
- 在具有隐藏神经元的循环网络中学习序列吸引子
大脑针对处理时间序列信息,如何学习存储和检索序列记忆仍不清楚。本研究探讨了二元神经元回归网络如何学习序列吸引子以存储预定义的模式序列,并能够强大地检索它们。通过发展一种本地学习算法,证明了该算法能够使带有隐藏神经元的网络学习序列吸引子,且能 - 情感维度识别中的递归跨模态注意力的多模态融合
通过跨模态注意力和时间卷积网络,提出了一种用于多模态情感识别的模型,能够有效地捕捉不同模态之间的互补关系,并在赛事中实现显著改进。
- ICLR修剪的循环神经网络层中的图扩展保留性能
神经网络的稀疏性和强连通性是扩展属性,对于在资源受限平台上使用递归神经网络进行实时序列学习任务来说,剪枝是必要的。本研究探讨了保持递归网络的大型谱间隙和层级扩展属性的方法,以及关于它们双分层图特性的时间展开递归网络图研究。通过 MNIST、 - 秩序中的秩序:结构化神经元的循环网络中发育和学习的相互作用
通过应用局部、始终开启的可塑性规则,我们能够在由两个群体组成的递归网络中学习复杂序列,我们的模型具有资源高效性,仅需少量神经元即可学习复杂序列,我们通过鸟鸣学习的模拟中展示了这些特点,在该模拟中,我们的网络首先学习了一个长的非马尔可夫序列, - 残差循环网络中的褪色记忆作为归纳偏差
通过引入弱耦合残差循环神经网络(WCRNNs),本研究调查了残差连接对性能、网络动力学和记忆属性的影响,并展示了特定形式的残差连接如何提高实用表达能力。
- 情感分析中的计算成本降低:张量化循环网络与循环网络对比
本文采用张量网络进行情感分析,与传统循环模型相比,使用更少的资源进行培训,并取得了可比的性能。
- 自动作文评分的深度学习架构
基于循环神经网络和卷积神经网络的自动评测系统在 8 个数据集上实验表明,本系统在自动评测方面具有显著的优势。
- CVPR高效视频超分辨率的结构化稀疏学习
本论文提出了一个名为 SSL(Structured Sparsity Learning)的结构化稀疏化学习方案,该方案可在视频超分辨率(VSR)模型中进行过滤以提高推理效率,并且能够显著优于最近的方法,实验证明了其有效性。
- 能否学习算法?使用循环网络从易到难问题进行泛化
本文讨论了深度神经网络在视觉模式识别方面的强大能力,但在推理任务中仍然表现不足,引入了使用循环神经网络解决问题的算法,并通过前缀和计算,迷宫和棋类游戏等问题进行了实验研究。
- 深度学习中神经注意力模型调查
该综述旨在提供一种全面的神经注意力模型开发和应用的现状和趋势的分析,系统回顾了数百种注意力模型的体系结构和应用,特别关注于卷积网络、循环网络和生成模型,描述了其在不同应用领域和神经网络可解释性上的影响。
- 自适应脉冲循环神经网络精确高效的时间域分类
本文介绍了一种使用新颖代理梯度和可调谐自适应尖峰神经元的循环网络,将基于脉冲的神经网络的性能提高至具有挑战性的时间域基准的最新水平,并展示了这些 SNN 的计算效率比具有可比性能的 RNN 高出一到三个数量级,从而使 SNN 成为 AI 硬 - 递归和深度的惊人相似性
本文研究了深度神经网络的层次结构特征,发现递归神经网络与前馈网络在提取特征和处理深层次信息方面表现出类似的表现和性能优越,且递归模型能够模拟前馈模型的行为并使用更少的参数来实现图像分类和迷宫问题的求解。
- EMNLP利用时间表达网络的神经对话状态跟踪
本文提出了 Temporally Expressive Networks (TEN) 模型以同时模拟对话轮次间的时间特征依赖和状态依赖。利用循环网络和概率图模型,模型对话状态追踪 (DST) 的准确率得到了提升。
- CVPR在线动作检测信息区分学习
介绍了一种在线行动检测方法,使用名为 Information Discrimination Unit(IDU)的新型循环单元来显式区分与当前操作相关的信息和其他信息,以学习更具辨别力的表示来鉴定当前操作,实验证明该方法在 TVSeries - ICML深度递归双 Q 学习用于 Atari 游戏
本文介绍了基于深度强化学习的新模型,使用双 Q-Learning 算法和循环神经网络(如 LSTM 和 DRQN)的实现方案,应用在类似阿塔里游戏、马里奥等的视频游戏中,通过奖励数据进行自我学习。
- ICLR构建稳健、局部线性的深度网络
本文提出了一种新的学习问题,以促进深度网络具有更大区域上的稳定导数,针对使用分段线性激活函数的网络实现此目标,通过推理和优化步骤来扩展线性逼近有效区域,对图像和序列数据集的残差网络和循环网络进行了演示。
- ACLLSTM 网络可实现动态计数
本文系统评估了标准循环神经网络在动态计数和编码分层表示方面的能力,研究结果表明 LSTM 网络可以通过模拟简单的实时 k 计数机学习识别平衡的括号语言和多个括号语言的洗牌,并且单层 LSTM 通过识别 Dyck-1 语言的任务表现良好,但是 - ACL一种用于序列建模的轻量级循环网络
本文介绍了一种称为 LRN 的轻量级循环神经网络,它使用输入和遗忘门来处理长时间的依赖性以及梯度消失和爆炸,并且可以作为替代现有循环单元的可落地的解决方案,该方法将计算量从循环中转移至外部,并与自我注意力网络紧密连接。通过六项自然语言处理任 - ICMLPOPQORN: 循环神经网络鲁棒性量化
本文提出了一种名为 POPQORN 的算法,用于测量递归神经网络的稳健性,包括传统的递归神经网络、LSTM 和 GRU。通过该算法,可以得到关于每个步骤的稳健性量化指标,并就此获得新的见解。