储层学习的限制
提出了一种基于无限维状态空间系统积分表示的读出特性的新概念类,它具有较强的实用性和通用近似性质,其中利用了随机生成的线性或 ReLU 激活函数的回声状态网络,并以仅训练输出层的随机神经网络为基础构建读出模型,所得到的结果是具有证明收敛性保证的可全面实现的递归神经网络学习算法,不受维度灾难影响。
Apr, 2023
本文提出了新的几何解释,解释了库沃塞蓝计算的现象,将其构建为强普适性水库系统;随机投影所有状态空间系统的家族,以产生 Volterra 级数扩展,生成随机系数的状态仿射水库系统能够通过为每个不同的滤波器训练一个不同的线性输出来近似任何消退存储过滤器类中的元素。
Sep, 2020
该论文研究了随机库容计算机的普适性,证明了具有随机特性的库容计算机是一种普遍的逼近类,并通过两个实际应用示例展示了其在分类和混沌时间序列预测方面相对确定性库容计算机的高性能。
May, 2024
该综述通过将物理沉积池按类型分类,概述了近期物理沉积池计算的进展,并讨论了与物理沉积池计算相关的当前问题和前景,以进一步扩展其实际应用和开发下一代机器学习系统。
Aug, 2018
深度学习在无线通信等领域得到了迅速的应用,本文通过应用一种称为储备计算的学习技术对信道均衡进行研究,并提供了其操作的信号处理理论基础,通过模拟展示了通过优化初始化可以改善接收处理和符号检测性能,这是实现可解释机器学习和提高检测可靠性的首要步骤。
Oct, 2023
本文探讨了如何使用人工神经网络学习量子计算机处理器的能力函数,并使用卷积神经网络模拟了计算器的能力,结果表明在遇到门依赖型、时间依赖型和上下文相关的随机误差时,卷积神经网络可以准确地模拟处理器的能力。
Apr, 2023
讨论了具有循环神经网络(RNN)作为储层的储层系统的近似能力。在问题设置中,储层系统通过调整其线性读出量来近似一组函数,而储层保持固定。我们将展示一类 RNN 储层系统的统一强普适性,用于近似某类函数。这意味着,对于任意正数,我们可以构建一个足够大的 RNN 储层系统,其对于待近似函数类中每个函数的近似误差都有一个上界。这种 RNN 储层系统是通过 RNN 储层的并行级联构造的。
Mar, 2024
利用可变生物膜基 memcapacitor 作为 reservoir,在分类和分析时间序列数据的仿真和实验中实现了 98%的口语数字分类准确率和 0.0012 的非线性回归任务正常化均方误差。
May, 2023
采用热力学和推理之间的形式对应来定义学习容量,该容量是对模型有效维度的度量,与 PAC-Bayesian 框架获得的容量概念具有数值上的一致性,是许多基于典型数据集训练的深度网络的参数数量的一小部分,而且取决于训练时使用的样本数量,可以用于理解有效维度,即使是对于随机森林和 kNN 分类器等非参数模型。
May, 2023