基于忆阻体系的时序预测和序列学习
利用可变生物膜基 memcapacitor 作为 reservoir,在分类和分析时间序列数据的仿真和实验中实现了 98%的口语数字分类准确率和 0.0012 的非线性回归任务正常化均方误差。
May, 2023
我们的研究引入了一种新型的双存储器 RC 系统,通过基于 WOx 的忆阻器实现 16 个不同状态的编码和基于 TiOx 的忆阻器实现长期记忆单元,实现了处理时间数据集的能力。通过对孤立语音数字识别和 Mackey-Glass 时间序列预测的基准任务的验证,该系统在数字识别中达到了 98.84% 的准确率,在时间序列预测任务中保持了较低的规范化均方根误差(NRMSE)0.036,突出了其能力。本研究揭示了基于忆阻器的 RC 系统在处理复杂时间挑战方面的能力,为神经形态计算的进一步创新奠定了基础。
Mar, 2024
近期,关于储层计算的研究取得了重大突破,需要具有能够实现储层物理实现的动力学的模拟装置,以实现更快的信息处理速度、更低的能量消耗和较小的面积占用。通过电压相关动态的离子通道基础箱体,我们展示了只需一次数据编码并通过一个包含具有不同动力学特性的多个箱体的储层层的数据输入方法的可行性,并通过实验证明了这种方法的预测和分类准确率高于传统方法。
Oct, 2023
利用学习到学习框架,本文成功识别出膜电位的行为特征和最优超参数,这些特征与以前的研究相吻合,这表明 memristive reservoirs 可以模拟尖峰神经元的膜电位行为,并且可以作为尖峰电流和连续过程之间的接口。
Jun, 2023
本研究通过利用 memristive 和 memcapacitive 交叉阵列在低功耗机器学习加速器中的应用,提供了一个综合的深度神经网络 (DNN) 的共同设计框架;该模型采用混合 Python 和 PyTorch 方法实现,考虑了各种非理想因素,在 8 层 VGG 网络上,对 CIFAR-10 数据集分别使用 memristive 和 memcapacitive 交叉阵列,实现了卓越的训练准确率 (90.02% 和 91.03%);此外,本文还引入了一种使用运算跨导放大器 (OTA) 和电容器模拟 meminductor 设备的新方法,展示了可调节的行为;在 60 MHz 下,180 nm CMOS 技术的晶体管级仿真表明所提出的 meminductor 模拟器具有 0.337 mW 的功耗,进一步在神经形态电路和 CNN 加速器中进行了验证,训练和测试准确率分别达到了 91.04% 和 88.82%,值得注意的是,仅使用 MOS 晶体管确保了单片 IC 制造的可行性,这项研究为探索高效和高性能的机器学习应用的先进硬件解决方案作出了重大贡献。
Mar, 2024
本文综述深度学习、电晕电阻存储器(Memristors)和尖峰神经网络等人工智能领域的新技术。文章重点讨论了依赖非冯・诺依曼体系结构的计算和定制学习和推理算法的必要性,并展望了未来神经形态的计算系统。
Apr, 2020
通过使用具有非线性磁化特性的纳米磁隧道结构作为物理水库,结合简单的线性回归进行在线训练和自主预测,本研究在动态时间序列数据和混沌时间序列数据上进行了建模,并在高精度、低内存和低能耗的硬件资源上实现了预测。
Apr, 2023
通过将一些储备态的组成部分反馈到网络中的输入端,我们可以显著改善给定回声状态网络的性能。我们严格证明,对于任何给定的回声状态网络,反馈几乎总是会提高输出的准确性。在三个代表不同问题类别的任务中,我们发现通过反馈,平均误差的度量减少了 30%-60%。引人注目的是,与将初始计算节点数量翻倍的计算昂贵且技术上具有挑战性的替代方案相比,反馈提供了至少与之相当的性能提升。这些结果证明了这种反馈方案的广泛适用性和实用性。
Dec, 2023
提出了一种新颖且可解释的循环神经网络结构,采用回声态网络(ESN)范例进行时间序列预测,并通过较小的并行储备池驱动不同输入组合的特征,非线性组合以产生输出,其预测能力表现优于传统单储备池 ESN。
Mar, 2024
这项研究提出并实验性地展示了一种层集成平均的技术,通过将预先训练的神经网络解决方案从软件映射到有缺陷的硬件交叉栅极存储器上,可可靠地达到接近软件性能的推理表现。研究结果表明,通过牺牲层映射所需的设备数量,层集成平均可以可靠地提升缺陷忆阻网络的性能,与软件基准相比,多任务分类准确率从 61% 提高到 72%(不到软件基准的 1%)。
Apr, 2024