Sep, 2023

deepFDEnet: 用于解决分数阶微分方程的新型神经网络结构

HTML
PDF
TL;DR提出了一个深度神经网络的新架构，可以准确解决分数阶微分方程。使用高斯积分规则和L1离散技术。通过研究分数阶普通微分方程、分数阶积分微分方程和分数阶偏微分方程，结果表明该提出的架构以出色的精度解决不同形式的分数阶微分方程。
发现论文，激发创造
  • 超越有限层神经网络: 桥接深度架构和数值微分方程

    利用数值微分方程设计方法，构建了新的网络结构LM-architecture，能够在 CIFAR 和 ImageNet 上实现比 ResNet 和 ResNeXt 更高的性能，并且可以通过插入噪声来改善网络的鲁棒性。

    Oct, 2017

  • 微分方程作为深度神经网络的模型

    本研究系统地分析了用作机器学习模型的微分方程的一般性质，并证明了损失函数相对于隐藏状态的梯度可被视为一般化的动量，可以应用经典力学的工具。此外，我们还展示了残差网络和前馈神经网络可以与微小非线性权重矩阵偏差只稍微偏离单位矩阵的微分方程相关。我们提出了一种描述这种网络的微分方程并研究了它的属性。

    Sep, 2019

  • 考虑多个输入函数的增强型DeepONet模型用于建模偏微分算子

    本文介绍了一种扩展了输入功能的神经网络结构-Enhanced DeepONet，该结构可接受多个输入功能，通过内积与输出卡车网络连接，可用于模拟偏微分方程。数值结果表明，Enhanced DeepONet的精度约为全连接神经网络的7-17倍或简单扩展DeepONet的2-3倍。

    Feb, 2022

  • SHoP：用于求解高阶偏微分方程的深度学习框架

    本文提出了一种名为SHoP的深度学习框架，通过推导神经网络的高阶导数规则和将网络扩展为泰勒级数，实现了高阶偏微分方程的快速准确求解，并通过实验验证了其有效性。

    May, 2023

  • PMNN：基于物理模型的神经网络求解时间分数阶微分方程

    本文提出一种创新的物理模型驱动神经网络（PMNN）方法，用于求解分数阶微分方程。该方法通过将深度神经网络与分数导数的插值逼近技术相结合，建立了一个时间迭代框架，并通过训练神经网络学习这个迭代框架，从而获得微分方程的近似解。通过数值实验验证了PMNN方法的效率和准确性。

    Oct, 2023

  • HNS: 解决时间分数阶偏微分方程的高效Hermite神经求解器

    基于高阶Hermite插值和深度神经网络的高精度Hermite Neural Solver（HNS）用于解决时间分数阶偏微分方程，取得较L1插值近似方法更高的准确性和灵活性。

    Oct, 2023

  • 使用导数运算矩阵加速分数阶部分积分神经网络

    提出一种新的运算矩阵方法以加速分数型物理信息神经网络(fPINNs)的训练，方法包括对分数型Caputo算子的非均匀离散化，通过矩阵-向量乘积替代自动微分，在各种微分方程中得到验证和数值结果的支持。

    Jan, 2024

  • 神经分数阶微分方程

    本文提出了神经分数阶微分方程（Neural FDE），一个新颖的深度神经网络结构，通过调整微分方程来适应数据的动态，从而在具有记忆或依赖于过去状态的系统建模中可能优于神经常微分方程（Neural ODE），并且可以有效地应用于学习更复杂的动力系统。

    Mar, 2024

  • NDDEs：用于解决延迟微分方程正反问题的深度神经网络框架

    本文提出了一种基于深度神经网络的延迟微分方程(NDEs)解决框架，旨在填补现有方法在初始条件、控制方程和已知数据等要求上的不足。通过自动微分和优化算法调整网络参数，NDDEs能有效解决延迟微分方程的正反问题，并在多次数值实验中表现出高精度，显示出其在延迟微分方程研究中的有效性和潜在影响。

    Aug, 2024

  • 利用深度学习解决微分方程的实用方面：入门指南

    本研究针对深度学习在微分方程，尤其是偏微分方程中的应用进行了探讨，填补了该领域的技术和实践指导的缺口。文章介绍了深度学习的基本原理及深度Galerkin方法，并通过逐步示例展示了解决一维热方程的过程，提供了更广泛的微分和积分方程的解决方案。研究的主要发现是实现了无需GPU即可在普通计算机上运行的代码，有望推动深度学习在科学计算中的进一步应用。

    Aug, 2024