May, 2023

基于像素数据的预测：来自 PDE 和有限差分的洞见

PDF
TL;DR为了更好地理解神经网络对序列近似的精度和成本，本文针对序列近似任务，通过利用离散卷积和有限差分算子之间的联系，构造可以在保证性能的情况下，具有与实践中常用的序列近似任务的相似性的小型卷积神经网络，本文的理论结果得到了数值实验的支持。
neural networksconvolutional networkssequence approximationdiscrete convolutionpdes
发现论文，激发创造
  • 以偏微分方程为基础的深度神经网络

    该论文通过偏微分方程的理论框架，提出了三种新型的 ResNet 神经网络架构，分别属于抛物线和双曲线类型的 CNN，能够提供深度学习的新算法和思路，并用数值实验证明了它们的竞争力。

    Apr, 2018

  • 通过基于有限差分的非监督小型线性卷积神经网络解决椭圆和抛物问题

    我们提出了一种完全无监督的方法，通过小型卷积神经网络直接估计偏微分方程的有限差分解，以解决常规神经网络方法在估计 PDE 解时遇到的泛化差距问题。与有限差分法相比，我们的算法在几个选定的椭圆和抛物问题的真实解上展示了相当准确的结果。

    Nov, 2023

  • 解决偏微分方程的快速分辨率无关的神经技术

    本文综述了传统的 PDE 数值逼近方法以及近期的基于机器学习的方法，重点介绍了以神经算子为中心的关键构架，这是一种学习 PDE 解算子的新方法，与传统方法相比具有 1000 倍的计算速度优势，这些新的计算方法可以在解决许多基础和应用物理问题方面带来巨大优势。

    Jan, 2023

  • FiniteNet：一种用于时间相关偏微分方程的全卷积 LSTM 网络架构

    本文介绍了一种利用机器学习方法来减少时间依赖性偏微分方程数值求解误差的方法，使用全卷积 LSTM 网络来利用偏微分方程的时空动态性，提高常规有限差分和有限体积法的精度，并通过对模拟数据的训练和三个不同动态学特征的偏微分方程实例的演示，表明该方法与其他算法相比误差降低了 2 到 3 倍。

    Feb, 2020

  • PDE-Net: 从数据中学习 PDE

    本文研究使用神经网络设计的 PDE-Net 来有效地预测动态复杂系统并揭示其潜在隐含的 PDE 模型，PDE-Net 的基本思想是通过学习卷积核（滤波器）来学习微分算子，并应用神经网络或其他机器学习方法来近似未知的非线性响应。

    Oct, 2017

  • 高维随机偏微分方程深度神经网络代理

    利用深度学习方法解决高维随机偏微分方程的问题。通过使用全连接深度残差网络来逼近随机偏微分方程，在确定逼近深度神经网络的参数时，采用了 SGD 的变种，并在扩散和热传导问题上得到了验证。

    Jun, 2018

  • 参数化偏微分方程的模型简化和神经网络

    发展了一种数据驱动输入输出图像无限维空间的近似方法，使用了神经网络和深度学习并结合模型缩减的思想，该方法在概念上定义于无限维空间上，并在实践中对计算所需的有限维空间的维度稳健，通过对输入输出映射的一类概率测度的选择，证明了所提出近似方法的收敛性。数值实验表明了该方法的有效性，并将其与现有的算法相比较。

    May, 2020

  • 用采样神经网络解决偏微分方程

    利用采样方法，从数据无关和数据相关的概率分布中提取隐含权重和偏置的神经网络，可以在训练时间和逼近精度方面取得重大突破，并且能够有效解决时变和静态的偏微分方程以及逆问题，带来了光谱收敛和无网格构建基函数等优势。

    May, 2024

  • 深度神经网络和参数化偏微分方程的理论分析

    本研究旨在通过利用解空间的低维特性，导出 ReLU 神经网络逼近参数化偏微分方程解映射复杂度的上界，具有较传统神经网络逼近结果更优的逼近速率。具体而言，在不了解具体形状的情况下，我们利用小型降维基解的存在性，构建了一些神经网络，以便大范围参数化偏微分方程可以提供这样的参数化解映射逼近，而这些网络的大小基本只取决于基解的大小。

    Mar, 2019

  • 神经算子：用于偏微分方程的图卷积网络

    本文旨在通过神经网络学习无限维空间（算子）和不同有限维空间之间的映射，并使用图网络进行内核积分计算。该方法在偏微分方程及其解的输入数据映射中具有实际应用价值，并在不同分辨率和离散化的近似方法之间实现了泛化。实验证明，所提出的图内核网络具有期望的性能，并与现有技术解算器相比表现出优异的性能。

    Mar, 2020