深度时间延迟库隆算法:动态和存储容量
本文提出了新的几何解释,解释了库沃塞蓝计算的现象,将其构建为强普适性水库系统;随机投影所有状态空间系统的家族,以产生 Volterra 级数扩展,生成随机系数的状态仿射水库系统能够通过为每个不同的滤波器训练一个不同的线性输出来近似任何消退存储过滤器类中的元素。
Sep, 2020
提出了一种基于无限维状态空间系统积分表示的读出特性的新概念类,它具有较强的实用性和通用近似性质,其中利用了随机生成的线性或 ReLU 激活函数的回声状态网络,并以仅训练输出层的随机神经网络为基础构建读出模型,所得到的结果是具有证明收敛性保证的可全面实现的递归神经网络学习算法,不受维度灾难影响。
Apr, 2023
储备计算(RC)是一种递归神经网络,通过随机连接神经元实现对时间信号处理的应用。该模型具有丰富的动力学、线性可分性和记忆能力,可在各种应用中生成适当的响应。RC 的研究领域涉及机器学习、物理学、生物学和神经科学,可应用于物理硬件和生物设备的复杂动力学实现及对大脑机制的理解。本文对 RC 的发展进行了综合回顾,包括模型、应用和脑机制的建模,并提供了储备设计、编码框架统一、物理实现以及与认知神经科学和进化之间的相互作用等新视角。
Jul, 2023
通过使用硅微环共振器中的非线性效应,如自由载流子色散和热光效应,将信息映射到更高的维度空间,并通过添加外部波导实现具有增强记忆的延时非线性光子储存器 (TDRC)。在 TDRC 中,非线性效应取决于物理特性,而非线性动态的正确量化有利于实现最佳性能。因此,我们以时间常数和热效应为函数来量化基于微环的 TDRC 方案的非线性和线性内存容量,并分析了 TDRC 动态生成的参数空间,以确定满足传统 RC 任务的输入信号功率和频率偏移范围。
Jun, 2024
通过振荡驱动储层计算的反馈机制,本研究提出一种能够稳定网络活动且诱导复杂储层动力学的储层计算模型,即振荡驱动储层计算(ODRC)。ODRC 在运动定时和混沌时间序列预测任务中与传统储层计算方法相比能更准确地复现长期目标时间序列,并能从有限观测中学习到抽象生成规则。基于这种简单且计算廉价的实现所获得的显著改进,ODRC 可作为各种时间序列数据的实用模型,并可作为神经震荡及其小脑处理器的模型进行生物学探讨。
Jun, 2024
应用机器学习控制混沌参数 Lorenz 系统,研究表明下一代水库计算在数据有限的情况下可以显著优于传统水库计算,并在实际控制应用中具有进一步潜力。
Jul, 2023
利用噪声驱动的转换现象的机器学习模型,储层计算(一种递归神经网络)能够学习噪声引起的系统状态转换,通过调整关键的超参数,包括储层动力学的时间尺度,生成准确的转换时间和数量的统计数据,适用于多种系统和蛋白质折叠实验数据,表明机器学习方法可以捕捉噪声引发的现象。
Sep, 2023
我们的研究引入了一种新型的双存储器 RC 系统,通过基于 WOx 的忆阻器实现 16 个不同状态的编码和基于 TiOx 的忆阻器实现长期记忆单元,实现了处理时间数据集的能力。通过对孤立语音数字识别和 Mackey-Glass 时间序列预测的基准任务的验证,该系统在数字识别中达到了 98.84% 的准确率,在时间序列预测任务中保持了较低的规范化均方根误差(NRMSE)0.036,突出了其能力。本研究揭示了基于忆阻器的 RC 系统在处理复杂时间挑战方面的能力,为神经形态计算的进一步创新奠定了基础。
Mar, 2024
利用表面流动液膜上激发的孤立波,实验证明一种物理上的储备计算系统,该系统通过对输入数据进行非线性转换来替代随机性的影响,从而作为传统储备计算算法的技术简单的硬件改进。
Jan, 2024