Mar, 2024

多分支径向基网络预测复杂混沌行为

PDF
TL;DR本研究提出了一种多分支网络方法，用于预测由复杂和混沌行为特征的物理吸引子的动力学。我们引入了一种独特的神经网络架构，由径向基函数（RBF）层和注意机制组成，旨在有效捕捉吸引子时序演化中的非线性相互依赖关系。我们的结果展示了使用包含约 28 分钟活动的 36,700 个时间序列观察值的真实数据集进行的 100 次预测中吸引子轨迹的成功预测。为了进一步说明我们提出技术的性能，我们提供了全面的可视化，展示了吸引子的原始和预测行为，并对观察到的结果与估计结果进行了定量衡量。总的来说，这项工作展示了先进机器学习算法在揭示复杂物理系统中隐藏结构方面的潜力，同时在需要准确的短期预测能力的各个领域提供了实际应用。
multi-branched networkphysics attractorneural network architectureradial basis functionnonlinear inter-dependencies
发现论文，激发创造
  • 基于深度学习的吸引盆分析

    卷积神经网络在表征多样的动力系统吸引盆复杂性和不可预测性方面的有效性进行了展示。与传统方法相比，这种新颖的方法能够以最佳方式探索动力系统的不同参数，而传统方法在表征多个吸引盆时具有计算成本较高的问题。此外，我们的研究还比较了不同卷积神经网络架构在此任务中的性能，展示了我们提出的表征方法即使使用过时的架构也优于传统方法。

    Sep, 2023

  • 机器学习推断电力系统吸引盆地

    提出了一种基于平衡库容计算的机器学习技术，通过测量数据推断典型电力系统中引起运行中断的吸引盆地，并证明该技术可以准确预测系统是否能在大幅度随机扰动后返回到功能状态，同时还可以用于推断典型混沌系统中的吸引子。

    May, 2023

  • 面部表情识别的多支路深度径向基函数网络

    本文利用基于径向基函数的多个支路来增强卷积神经网络，以捕捉面部情绪识别中的局部模式信息。结果表明，该模型在某些数据集上取得了最先进的表现，并且整合局部信息使其成为竞争对手。

    Sep, 2021

  • 长期时间序列预测的吸引子记忆：混沌视角

    在长期时间序列预测任务中，现有的深度学习模型忽视了离散时间序列起源于连续动态系统的关键特性，导致缺乏外推和演化能力。我们的模型 'Attraos' 将混沌理论引入长期时间序列预测中，将真实世界时间序列视为未知高维混沌动态系统的观测。在吸引子不变性的概念下，Attraos 利用提出的多尺度动态记忆单元来记忆历史动态结构，并通过频率增强的局部演化策略进行预测。详细的理论分析和丰富的实证证据一致表明，Attraos 在主流长期时间序列预测数据集和混沌数据集上优于各种长期时间序列预测方法。

    Feb, 2024

  • 机器学习实现的吸引子重构

    利用名为 “储集计算” 的机器学习方法成功地进行了混沌动力系统的短期预测和吸引子重构研究。我们提出了一个理论框架，描述了储集计算可以创建具有短期预测能力和准确长期遗传行为的经验模型的条件，并通过数值实验说明了这个理论。我们还认为这个理论适用于某些其他时间序列预测的机器学习方法。

    May, 2018

  • 利用小容器重构混沌吸引子 —— 拓扑的影响

    基于测量数据进行时间序列预测在广泛的应用中都是必须的，并且已经成为了广泛研究的主题。近年来，蓄水池计算已被证明是一种有效的方法，用于预测混沌动力学和从数据中重建混沌吸引子。本研究通过减小蓄水池的规模和复杂性，以提高硬件可操作性并更可靠地生产足够的替代模型。研究表明，与复杂的蓄水池拓扑相比，无耦合节点的蓄水池更可靠地产生长期时间序列预测。然后，我们将无耦合蓄水池的改进吸引子重建与所得替代系统的较小谱半径相连接。这些结果表明，节点度在确定所期望的动力学是否稳定于训练蓄水池的闭环操作中的自主替代系统中起着重要作用。就硬件可操作性而言，无耦合节点将允许在硬件架构中具有更大的自由度，因为不需要复杂的耦合设置，并且由于无耦合节点，系统响应对于空间和时间多路复用是等效的。

    Feb, 2024

  • 结构化径向基函数网络：多个假设预测的多样性建模

    多模态回归问题可以通过结构化径向基函数网络来解决，该网络将多个假设预测器集成在一起，通过训练期间损失函数的 Loss 值形成质心 Voronoi tessellations，从而高效地插值这些 tessellations 并逼近多个假设的目标分布，同时使用只有两层神经网络的预测器控制多样性，达到了卓越的泛化性能和计算效率。

    Sep, 2023

  • 递归神经网络中的反向传播算法和储备计算用于复杂时空动态预测

    本文研究使用循环神经网络以及储备计算和时域反向传播来预测高维和低维复杂系统的时空动态，结果表明：对于长期预测混沌系统，当全部状态动态数据用于训练时，储备计算方法的预测性能优于时域反向传播，但在使用低维数据时时域反向传播方法表现更好。同时该研究还首次量化了使用时域反向传播方法的 Lyapunov 谱。

    Oct, 2019

  • 利用混沌动力学作为深度神经网络的开发

    本研究揭示了混沌的本质可以在各种先进的深度神经网络中找到，并基于这一发现提出了一种直接利用混沌动力学进行深度学习架构的新方法。通过对不同混沌系统进行系统评估，我们发现我们的框架在准确性、收敛速度和效率方面均优于传统深度神经网络。此外，我们还发现在我们的方案中有短暂混沌形成的积极作用。总体而言，本研究为混沌的整合提供了一条新路径，并洞察了在机器学习和神经形态计算领域中混沌动力学融合的前景。

    May, 2024

  • 混沌奇异吸引子的机器学习

    利用混沌非线性吸引子实现低功耗的模拟计算方法，作为机器学习任务的通用平台提供卓越的性能，能够以毫瓦级功率与当前机器学习技术媲美，适用于聚类、回归和分类学习任务。

    Sep, 2023