在动态系统建模中可学习和可解释的模型组合
引入了一种基于术语重写的动力系统的代数模拟,证明了递归函数应用于迭代重写系统的输出定义了一类模型,其中包括循环神经网络、图神经网络和扩散模型等所有主要的动态机器学习模型架构。从范畴论的角度来看,这些代数模型也是描述动态模型组成性的一种自然语言。此外,我们提出这些模型为将上述动态模型推广到结构化或非数值数据(包括 “混合符号 - 数值” 模型)的学习问题提供了一个模板。
Nov, 2023
我们提出了一种基于 “专家混合” 的综合框架,以解决传统模型和机器学习方法在处理复杂系统时的准确性和解释性之间的平衡问题。通过数据驱动的融合多样化的本地模型,充分利用基于原则的先验知识,我们的解决方案支持专家的独立训练,并结合了机器学习和系统辨识技术,同时支持合作和竞争学习范式。为了增强解释性,我们对专家组合的突变进行了惩罚。实验结果验证了我们的方法的有效性,能够产生与目标现象紧密相似且可解释的模型组合。
Jan, 2024
通过运用数值分析理论建立的收敛性测试方法,验证机器学习模型是否准确地学习了某个系统本质的连续动力学过程,成功的模型能够更好地插值和外推,为科学预测提供更精确的数学手段。
Feb, 2022
利用自监督神经网络模型从观察到的轨迹数据中恢复相互作用网络并预测个体动力学的研究,应用于耦合粒子和耦合振荡器(Kuramoto)的两个动力系统。
Oct, 2023
本文介绍了一种新的信号处理和机器学习交叉领域的混合技术 —— 基于模型的深度学习系统。这种新技术结合了传统的数学模型与深度学习的优势,可以通过限定的数据量学习数据,同时保留先前领域知识,以期获得更高效的性能。本文提出了一种新的系统分类方法,并提供了具体的指南和来自最近文献的信号处理案例,以帮助未来基于模型的深度学习设计与研究。
Dec, 2020
提出了一种基于动态可解释循环神经网络的通用框架,用于多模态数据的非线性 DS 重建和跨模态关系分析。该算法能够通过利用其他信道来弥补单个数据通道中过度嘈杂或缺失的信息,并演示了该算法如何学习将不同数据域链接到潜在动力学。
Nov, 2021
这篇论文提出了一种利用深度神经网络和数值分析相结合的机器学习方法,用于从数据中识别非线性动态系统,以此预测未来状态和识别吸引基。在多个基准问题中,论文证明了该方法的有效性,包括学习洛仑兹系统、圆柱背后的流体动力学、Hopf 分岔和糖酵解振荡器模型。
Jan, 2018