蝴蝶引起的变化:群体储层变压器的远见预测
利用名为 “储集计算” 的机器学习方法成功地进行了混沌动力系统的短期预测和吸引子重构研究。我们提出了一个理论框架,描述了储集计算可以创建具有短期预测能力和准确长期遗传行为的经验模型的条件,并通过数值实验说明了这个理论。我们还认为这个理论适用于某些其他时间序列预测的机器学习方法。
May, 2018
基于测量数据进行时间序列预测在广泛的应用中都是必须的,并且已经成为了广泛研究的主题。近年来,蓄水池计算已被证明是一种有效的方法,用于预测混沌动力学和从数据中重建混沌吸引子。本研究通过减小蓄水池的规模和复杂性,以提高硬件可操作性并更可靠地生产足够的替代模型。研究表明,与复杂的蓄水池拓扑相比,无耦合节点的蓄水池更可靠地产生长期时间序列预测。然后,我们将无耦合蓄水池的改进吸引子重建与所得替代系统的较小谱半径相连接。这些结果表明,节点度在确定所期望的动力学是否稳定于训练蓄水池的闭环操作中的自主替代系统中起着重要作用。就硬件可操作性而言,无耦合节点将允许在硬件架构中具有更大的自由度,因为不需要复杂的耦合设置,并且由于无耦合节点,系统响应对于空间和时间多路复用是等效的。
Feb, 2024
本研究证明,水库计算机是一种有效的无模型预测确定性混沌系统中极端事件的工具。通过在预期极端事件之前的某些时刻对系统施加弱控制扰动,我们可以抑制不良的极端事件。本文在全球耦合的 FitzHugh-Nagumo 神经元系统和两个几乎相同的单向耦合混沌振荡器系统中展示了这种预测和预防策略的有效性。
Feb, 2020
本文研究发现,普通 Transformer 结构在水文建模方面的性能不如 LSTM 结构;去除循环结构的变体可以与 LSTM 相媲美,但是与当前最先进技术相比性能并不突出。
Jun, 2023
在长期时间序列预测任务中,现有的深度学习模型忽视了离散时间序列起源于连续动态系统的关键特性,导致缺乏外推和演化能力。我们的模型 'Attraos' 将混沌理论引入长期时间序列预测中,将真实世界时间序列视为未知高维混沌动态系统的观测。在吸引子不变性的概念下,Attraos 利用提出的多尺度动态记忆单元来记忆历史动态结构,并通过频率增强的局部演化策略进行预测。详细的理论分析和丰富的实证证据一致表明,Attraos 在主流长期时间序列预测数据集和混沌数据集上优于各种长期时间序列预测方法。
Feb, 2024
本论文讨论了长期时间序列预测 (LTTF) 中的 Transformer 模型,提出了一种有效的基于 Transformer 的模型 Conformer,采用编码器 - 解码器架构和正则化流派生的模块进一步提高信息利用率,并显式地建模时间序列数据中的互系列相关性和时间动态以加强下游自我关注机制,实验表明 Conformer 模型在 LTTF 中优于现有的方法,并可生成可靠的预测结果与不确定性量化。
Jan, 2023
提出一种名为 MultiResFormer 的基于 Transformer 的模型,通过自适应选择最佳的 patch 长度来动态建模时间序列的变化,并在长期预测任务中优于基于 patch 的 Transformer,同时使用比 CNN 基线更少的参数。
Nov, 2023
通过引入去冗余方法并将信息聚合机制从加法转变为减法,本文改进了 Transformer 模型,并在原始模型的每个模块中添加了一个辅助输出分支来构建通往最终预测结果的高速公路。通过学习残差信号,使模型逐层学习监督信号的残差,实现了输入输出流的隐式渐进分解,从而提高了模型的多功能性、可解释性和抗过拟合能力,并在广泛的实验中证明了该方法优于现有的最先进方法,平均性能提升率达 11.9%。
Feb, 2024
提出了一种基于平衡库容计算的机器学习技术,通过测量数据推断典型电力系统中引起运行中断的吸引盆地,并证明该技术可以准确预测系统是否能在大幅度随机扰动后返回到功能状态,同时还可以用于推断典型混沌系统中的吸引子。
May, 2023