本文研究使用量化方法对记忆扩充神经网络（MANN）进行压缩。经过深入探究，作者发现记忆寻址是影响性能的主要因素，并提出了一种鲁棒的量化方法来解决这个挑战。在实验中，该方法在计算能量和错误率方面比传统技术都有较大的改进。

Nov, 2017

该论文探讨了记忆增强神经网络（MANNs），研究它们如何将类人记忆过程融入人工智能中，涵盖了感知记忆、短期记忆和长期记忆等不同类型的记忆，并将心理理论与人工智能应用联系起来。研究调查了包括霍普菲尔德网络、神经图灵机、相关矩阵记忆、记忆形态神经网络和神经注意力记忆在内的先进架构，解释了它们的工作原理和优势所在。深入探讨了 MANNs 在自然语言处理、计算机视觉、多模态学习和检索模型等现实世界应用中的使用情况，展示了记忆增强器如何提高人工智能任务的准确性、效率和可靠性。总体而言，本综述全面介绍了 MANNs，为基于内存的人工智能系统的未来研究提供了深入见解。

Dec, 2023

本研究旨在提出一种时间和空间相结合的新方法用于解决基于骨架的动作识别中的挑战，该方法利用内存关注网络（MANs）并将时间和空间校准模块与卷积神经网络（CNNs）相结合，最终在四个基准数据集（NTU RGB + D，HDM05，SYSU-3D 和 UT-Kinect）上实现了最佳性能。

Apr, 2018

提出了一种新颖的关注机制，即神经关注记忆（NAM），它是一种可读写的记忆结构，并基于此设计了基于 NAM 的 MANN、few-shot 学习、N-way K-shot 学习和 Transformer 等模型，实验证明 NAM 在算法零样本泛化、减少假阳性等方面效果更好。

Feb, 2023

本文提出了一种新的循环神经网络体系结构 Recurrent Memory Network（RMN），不仅能够放大循环神经网络的作用，而且有助于我们理解其内部功能并发现数据中的潜在模式。在语言建模和句子完成任务上展示了 RMN 的强大性能。在长句完成挑战中，RMN 的准确性为 69.2％，超过了以前的最新技术水平。

Jan, 2016

提出了一种记忆注意力循环网络用于视频字幕生成，可以在训练数据中探索词与其各种类似视觉上下文的全谱对应关系，从而实现对每个单词的更全面理解，并提高字幕生成质量。

May, 2019

本文提出了一种名为 Labeled Memory Networks (LMNs) 的记忆增强神经网络设计，通过以类别为主键来组织记忆，写入非零损失的实例并使用基于标签的记忆替换，该方法能够在词模型和少样本学习等任务中取得显著准确度提高，特别适用于要求分类模型在线适应的任务。研究还表明，在上线部署时使用 LMNs 能够将神经网络模型适应到特定领域的标记数据，比元学习相关的其他记忆增强神经网络更优秀。

Jul, 2017

HiMA is a tiled, history-based memory access engine with distributed memories designed to improve computation speed for memory-augmented neural networks supporting almost all memory operations, including DNC-D, demonstrating a significant improvement in speed, area efficiency, and energy efficiency compared to other MANN accelerators and Nvidia 3080Ti GPU.

Feb, 2022

本文介绍了三种增强记忆的循环神经网络 (MARNNs)，通过一系列简单的语言建模任务来探索其能力，可以识别具有层级结构的一般性 Dyck 语言，并通过模拟下推自动机来学习带有多达六个圆括号对的 Dyck 语言，此外还包括两个确定性回文语言和字符串反转转导任务。本文还强调了增强记忆模型相对于简单 RNN 的建模能力增强程度，同时，对这些模型的局限性进行了一些思考。

Nov, 2019

我们介绍了一种新的神经元 ——ARNs，它们通过时间上的跨度、每个神经元的内部存储状态以及一些新的激活函数来提高机器学习在时间序列数据上的表现。利用自动编程生成这些新的神经元，可以显著提高性能，成为任何处理时间序列数据（如传感器信号）的机器学习从业者标准操作流程的一部分。

Jun, 2022