Oct, 2024

近线性递归神经网络在动力系统重构中生成高度可解释的符号编码

HTML
PDF
TL;DR本文研究了动力系统建模中的挑战，提出了几乎线性递归神经网络（AL-RNN），该方法能够从时间序列数据中自动生成最简约的分段线性表示。研究表明，AL-RNN能有效且数据驱动地发现已知的拓扑最小分段线性表征，显著增强了动力系统的可解释性，从而促进数学与计算分析的进展。
发现论文，激发创造
  • 可计算的树突状循环神经网络用于重构非线性动力学系统

    本文介绍了一种基于线性样条基函数扩展动态可解释的分段线性循环神经网络（PLRNN）的方法，用于近似任意非线性动态系统。我们采用BPTT与教师强制以及快速可接受的变分推理两种框架对系统进行训练，并在各种动态系统基准测试上表明，这种方法具有更好的重建能力和更少的参数和尺寸。

    Jul, 2022

  • 广义教师强制学习混沌动力学

    通过对混沌动力系统进行简单的修改以及与可处理的递归神经网络设计的简单架构重排，可以在低维空间中准确还原动力系统，并在真实世界数据上表现出较高的性能。

    Jun, 2023

  • RNN训练中的分叉和损失跳跃

    利用循环神经网络 (RNNs) 建立模型和预测顺序数据，推理系统动力学(DS)；利用 DS 理论(DST) 增进对训练后的 RNNs 解决复杂任务的理解，以及训练过程本身；研究证明 ReLU-based RNNs 中某些分叉确实与梯度趋近于无穷大或零有关；引入一种新的启发式算法检测 ReLU-based RNNs 中的所有稳定点和 k-循环，以及它们的存在和稳定域，从而在参数空间中获得分叉流形；算法具有精确结果且具有良好的扩展行为。

    Oct, 2023

  • AI-Lorenz：一种用于深度学习物理推理的黑盒和灰盒混沌系统鉴定框架

    通过从嘈杂和稀疏的可观测数据中识别微分方程，我们开发了一个框架，学习建模复杂动力行为的数学表达式，从而填补了基于经验数据而非已知物理机制的系统的数学模型的空白。

    Dec, 2023

  • 动力系统重建中的跨领域推广

    我们提供了一个形式框架，解决了动力系统重构中的泛化问题。通过引入基于拓扑概念和遍历理论的数学概念，我们证明了黑盒深度学习技术通常无法学习到具有泛化能力的动力系统重构模型。我们的研究对动力系统重构中的泛化问题进行了首次全面的数学处理，并深入理解了泛化问题的根本原因以及如何在实践中解决这些问题。

    Feb, 2024

  • 学习动力系统中未观测状态的控制方程

    采用混合神经ODE结构结合符号回归来学习部分观测动力系统的控制方程，通过两个案例研究验证该方法成功地学习了这些系统中未观测状态的真实控制方程，并对测量噪声具有鲁棒性。

    Apr, 2024

  • 非线性动力系统中的潜在状态转变识别

    本文旨在通过恢复底层的低维潜在状态及其时间演化来改进动力系统的泛化能力和解释能力。我们提出了一种基于变分自编码器的实用算法，并在逼真的合成环境中进行了实证研究，证明我们能够高准确性地恢复潜在状态动力学，相应地实现高未来预测准确性，并且能够快速适应新环境。

    Jun, 2024

  • 优化循环网络拓扑结构的动力系统重构

    动态系统重建中的几何修剪可以减少参数负荷，而不显著影响质量，其结果网络具有特定类型的拓扑结构，优于其他研究中的小世界或无标度网络拓扑。

    Jun, 2024

  • 离散时间动力系统的可解释模型的表达式符号回归

    通过对修正的SymANNTEx模型进行权重正则化和信息论简化，本研究在识别经典混沌映射中成功识别单状态映射，并在逼近双状态吸引子方面取得了适度的成果，这为基于数据的科学发现和解释提供了重要的前景。

    Jun, 2024

  • 通过低维线性嵌入的实验动态自动化全球分析

    本研究解决了在复杂现实系统中应用动态系统理论所面临的数学建模、非线性和高维度问题。我们提出了一种数据驱动的计算框架，能够直接从原始实验数据中推导出非线性动态系统的低维线性模型，从而实现全局稳定性分析。这种新方法提供了对复杂动态行为的深入理解，具有广泛的应用潜力，特别是在物理、气候科学和工程等领域。

    Nov, 2024