普适微分方程的分析:数据驱动常微分方程的发现
介绍了 SciML 软件生态系统作为混合物理定律和科学模型的信息和数据驱动机器学习方法的工具,描述了一种数学对象 —— 通用微分方程(UDEs),作为连接生态系统的统一框架,并展示了这些工具的通用性。
Jan, 2020
科学机器学习是一类新的方法,它将物理知识和机械模型与数据驱动技术相结合,以揭示复杂过程的控制方程。本文提供了不确定性量化 (UQ) 的 UDE 的形式化,并研究了重要的频率派和贝叶斯方法。通过分析三个不同复杂度的合成示例,本文评估了集成、变分推断和马尔可夫链蒙特卡洛采样作为 UDE 的认识论不确定性量化方法的有效性和效率。
Jun, 2024
神经微分方程是深度学习和动力系统相结合的一个研究领域,可用于解决生成式问题、动力系统和时间序列。本文提供了这个领域的深入调查,并涵盖了神经微分方程的多种类型及其相关的数值方法和符号回归。
Feb, 2022
本研究使用贝叶斯深度学习技术将轻量级机器学习方法应用于神经常微分方程以获得结构化和有意义的不确定性量化,研究了机械知识和不确定性量化在两种神经常微分方程框架下的相互作用 - 辛神经常微分方程和神经常微分方程物理模型的补充,证明了方法在低维 ODE 问题和高维偏微分方程上的有效性。
May, 2023
本短文自给自足地介绍和调查了基于神经常微分方程(神经 ODE)的连续时间深度学习方法,主要面向熟悉普通微分方程和偏微分方程及其分析的读者,意在揭示它们在机器学习中的作用。通过使用机器学习和应用数学领域的三个示例,我们将看到神经 ODE 如何提供深度学习的新见解,并为更高效的算法打下基础。
Jan, 2024
使用神经网络和偏微分方程提取动态数据中的模型,参数化模型来结合空时样本相关性,在 MNIST 和 Fashion MNIST 上与其他深度神经网络进行了比较,证明本方法能够降低参数成本。
Aug, 2019
本文讨论了如何通过整合贝叶斯学习框架来量化神经普通微分方程中权重的不确定性,并且展示了在 MNIST 数据集上使用 GPU 加速的 No-U-Turn MCMC 采样器、Stochastic Gradient Hamiltonian Monte Carlo 和 Stochastic Langevin Gradient Descent 等推理方法成功集成神经 ODE 的实验结果。然后,我们首次证明了变分推理与标准化流和神经 ODE 的成功整合,生成了强大的贝叶斯神经 ODE 对象。最后,我们演示了如何利用普适的常微分方程概率地识别部分描述的动力系统中的模型规范,从而为探索认识上的不确定性提供了科学的机器学习工具。
Dec, 2020
采用混合神经 ODE 结构结合符号回归来学习部分观测动力系统的控制方程,通过两个案例研究验证该方法成功地学习了这些系统中未观测状态的真实控制方程,并对测量噪声具有鲁棒性。
Apr, 2024
本文介绍了使用深度学习发现复杂数据集中隐藏的偏微分方程 (包括线性和非线性方程)。通过使用测量数据进行必要的输入数据转换来实现发现过程中的坐标转换。同时,展示了用于选择特征和模型的技巧。通过本文的分析,可以发现非线性二阶偏微分方程的动力学可以由我们的深度学习算法自动准确地描述为普通微分方程。在研究更复杂的模拟时,也可以得到类似的结果。
Aug, 2018