关键词neural turing machines
搜索结果 - 8
- 记忆增强神经网络综述:认知洞见与人工智能应用
该论文探讨了记忆增强神经网络(MANNs),研究它们如何将类人记忆过程融入人工智能中,涵盖了感知记忆、短期记忆和长期记忆等不同类型的记忆,并将心理理论与人工智能应用联系起来。研究调查了包括霍普菲尔德网络、神经图灵机、相关矩阵记忆、记忆形态神 - 具有虫洞连接的记忆增强神经网络
本文提出了一种名为 “TARDIS” 的新型记忆增强神经网络模型,利用记忆构建起到过去的虫洞连接,有效地缓解了梯度消失问题,提高了学习效率,并在不同的长期依赖任务中获得了竞争性结果。
- NIPS神经图灵机上的堆栈操作学习
本文探讨了神经图灵机在处理括号匹配等长时依赖数据时的表现,结果显示其不仅能够模拟栈并学习识别该种算法,而且能够具有强大的泛化能力。
- 记忆增强神经网络的单次学习
本研究证明了增强记忆功能的神经网络具有快速吸纳新数据和利用数据进行准确预测的能力,并介绍了一种基于内容而不是基于位置的外部记忆访问方法。
- 神经 GPU 学习算法
本研究提出一种神经网络结构 —— 神经 GPU 来解决 Neural Turing Machine 中存在的训练难题,实现了对于尺寸不确定的输入进行算法训练,并能成功地推广到更长的算法实例中。通过参数共享放松、少量的 dropout 和渐变 - 往深层网络添加梯度噪声可改善学习效果
本文研究了在训练基本和复杂神经网络时添加梯度噪声的效果,发现这种技术可以显著提高训练效果,尤其是在较深的网络结构中更加有效,鼓励将该技术应用于更多复杂现代架构中。
- NIPS神经图灵机的结构化存储
本研究通过提出多种不同 memory 的 Neural Turing Machines (NTM) 来改进传统线性存储的 NTM 的缺陷,实验证明新的结构有助于提高模型收敛速度和预测精度。
- 神经图灵机
本文介绍了神经图灵机的概念及其与外部存储器资源的耦合,通过注意力过程交互,与图灵机或冯・诺伊曼体系结构相似,但可在端到端上进行微分,从而使其能够通过梯度下降进行高效训练。初步结果表明神经图灵机能够从输入和输出示例中推断出简单算法,如复制,排