Sep, 2020

离散时间特征和储备计算的随机性

PDF
TL;DR本文提出了新的几何解释，解释了库沃塞蓝计算的现象，将其构建为强普适性水库系统；随机投影所有状态空间系统的家族，以产生 Volterra 级数扩展，生成随机系数的状态仿射水库系统能够通过为每个不同的滤波器训练一个不同的线性输出来近似任何消退存储过滤器类中的元素。
reservoir computingrecurrent neural systemsvolterra series expansionslinear readoutprobability distributions
发现论文，激发创造
  • 无限维储水池计算

    提出了一种基于无限维状态空间系统积分表示的读出特性的新概念类，它具有较强的实用性和通用近似性质，其中利用了随机生成的线性或 ReLU 激活函数的回声状态网络，并以仅训练输出层的随机神经网络为基础构建读出模型，所得到的结果是具有证明收敛性保证的可全面实现的递归神经网络学习算法，不受维度灾难影响。

    Apr, 2023

  • 随机储层计算机

    该论文研究了随机库容计算机的普适性，证明了具有随机特性的库容计算机是一种普遍的逼近类，并通过两个实际应用示例展示了其在分类和混沌时间序列预测方面相对确定性库容计算机的高性能。

    May, 2024

  • 物理库容计算的最新进展：综述

    该综述通过将物理沉积池按类型分类，概述了近期物理沉积池计算的进展，并讨论了与物理沉积池计算相关的当前问题和前景，以进一步扩展其实际应用和开发下一代机器学习系统。

    Aug, 2018

  • 基于广义同步的广义读出的储备计算

    基于广义输出的储层计算框架利用非线性动力学实现重要的信息处理能力，同时保持了储层计算的低成本和线性学习框架的优势，并在预测混沌系统、提取有用基函数等方面取得了显著的精度和鲁棒性的提高。

    May, 2024

  • 循环神经网络储备系统的普适性

    讨论了具有循环神经网络（RNN）作为储层的储层系统的近似能力。在问题设置中，储层系统通过调整其线性读出量来近似一组函数，而储层保持固定。我们将展示一类 RNN 储层系统的统一强普适性，用于近似某类函数。这意味着，对于任意正数，我们可以构建一个足够大的 RNN 储层系统，其对于待近似函数类中每个函数的近似误差都有一个上界。这种 RNN 储层系统是通过 RNN 储层的并行级联构造的。

    Mar, 2024

  • 通过 RNN 实现线性时不变（LTI）系统的通用逼近：随机性在水池计算中的力量

    循环神经网络（RNN）被认为是在相对温和且普遍的条件下对动态系统进行普适逼近的工具，但通常在标准 RNN 训练中面临梯度消失和梯度爆炸问题。为解决这些问题，引入了一种特殊的 RNN，即储层计算（RC），其循环权重是随机化并且未经过训练，此方法在自然语言处理和无线通信等领域表现出卓越的实证性能，特别适用于训练样本极为有限的情况。本研究证明了 RNN 可以普遍逼近线性时不变（LTI）系统并提供了 RC 在泛化 LTI 系统中的解释。我们通过清晰的信号处理解释和理解，利用 RC 对一个通用的 LTI 系统进行了模拟。在这个设置下，我们分析了生成 RC 的未经训练的循环权重的最优概率分布函数，并进行了大量的数值验证。我们的工作提供了基于信号处理的 RC 模型可解释性，并为设置而非训练 RC 的未经训练循环权重提供了理论解释。这是朝着可解释机器学习（XML）的重要步骤，尤其适用于训练样本有限的应用。

    Aug, 2023

  • 关于蓄水池计算及其超越传统机器学习的跨学科应用的调查

    储备计算（RC）是一种递归神经网络，通过随机连接神经元实现对时间信号处理的应用。该模型具有丰富的动力学、线性可分性和记忆能力，可在各种应用中生成适当的响应。RC 的研究领域涉及机器学习、物理学、生物学和神经科学，可应用于物理硬件和生物设备的复杂动力学实现及对大脑机制的理解。本文对 RC 的发展进行了综合回顾，包括模型、应用和脑机制的建模，并提供了储备设计、编码框架统一、物理实现以及与认知神经科学和进化之间的相互作用等新视角。

    Jul, 2023

  • 基于孤立波和生物灵感非线性变换的物理储层计算

    利用表面流动液膜上激发的孤立波，实验证明一种物理上的储备计算系统，该系统通过对输入数据进行非线性转换来替代随机性的影响，从而作为传统储备计算算法的技术简单的硬件改进。

    Jan, 2024

  • 深度时间延迟库隆算法：动态和存储容量

    使用深度时滞水库计算的方法，通过分析条件 Lyapunov 指数和系统到分岔点的距离，调节线性和非线性记忆容量的分布，得出了高非线性或长时间线性记忆容量的系统设计。

    Jun, 2020

  • 利用合成活性微粒进行物理储层计算

    用合成主动微粒系统进行物理储水池计算，其中自组织和噪音抑制起到关键作用。

    Jul, 2023