recurrent neural nets | BriefGPT

关键词recurrent neural nets

搜索结果 - 8

循环神经网络中的几何稀疏化
稀疏化技术在大规模神经模型运行中减少计算成本的常用方法之一。本文提出了一种新的循环神经网络（RNNs）稀疏化技术，称为模量规则化，结合幅值修剪。通过使我们的规则化术语明确成几何形式，我们首次对我们的神经网络的期望稀疏架构进行了先验描述。验证
PDF24 days ago
Lempel-Ziv 网络
本研究探讨了将离散域中的 Lempel-Ziv Jaccard Distance 扩展至连续域中的效果，并提出了基于深度学习的算法 Lempel-Ziv Network。通过在几个数据集和序列处理任务上的实验，证明了 LSTM 在这些任务上
PDF2 years ago
IJCAI学习可解释的深度状态空间模型用于概率时间序列预测
本文引入一种基于深度状态空间模型的概率时间序列预测方法，其中非线性发射模型和转移模型由网络参数化，并采用循环神经网络对其进行建模。通过自动相关性确定网络，我们还开发了一个利用外生变量的网络，以及估算外生变量不确定性，最终有助于确定有用的外生
PDF3 years ago
ICLR使用 ConvNets 的快速阅读理解
本文介绍了一种卷积架构，用简单的扩张卷积单元代替循环单元，取得了与循环神经网络同等水平的结果，在回答问题方面获得了多达两个数量级的加速。
PDF7 years ago
AAAIDiSAN: 面向无 RNN/CNN 的语言理解的定向自注意力网络
提出了一种新颖的方向性多维度自注意力机制 DiSAN，用于句子编码，相对于复杂的 RNN 模型，它在预测质量和时间效率方面表现更好，并在多个数据集上得到了最优的测试准确性表现。
PDF7 years ago
EMNLP基于分层注意力机制的 RNN 相册概括与故事叙述
本文提出了一种端到端的视觉叙事问题的解决方案，首先使用基于层次注意的循环神经网络对相册照片进行编码，然后选择代表性的照片，并为其撰写自然语言的相册故事。经自动化和人工评估表明，该模型在选择、生成和检索方面的性能均优于基线模型。
PDF7 years ago
神经事件序列预测的时间依赖表示
本文提出了一组用于时间序列预测的方法，包括两种基于时间的事件表示方法和两种使用下一个事件持续时间作为正则化的方法，并通过基于 RNN 的实验评估，证明这些方法可以提高准确性。
PDF7 years ago
ICLR递归网络中的惊讶驱动反馈
介绍了基于新颖的 Surprisal 驱动递归网络，利用过去的误差信息进行预测，取得了在 enwik8 字符级别预测任务上 1.37BPC 的较好表现，优于其他随机和完全确定性方法。
PDF8 years ago