NODE-ImgNet:一种以 PDE 为基础的有效且稳健的图像去噪模型
该论文通过偏微分方程的理论框架,提出了三种新型的 ResNet 神经网络架构,分别属于抛物线和双曲线类型的 CNN,能够提供深度学习的新算法和思路,并用数值实验证明了它们的竞争力。
Apr, 2018
本文研究使用神经网络设计的 PDE-Net 来有效地预测动态复杂系统并揭示其潜在隐含的 PDE 模型,PDE-Net 的基本思想是通过学习卷积核(滤波器)来学习微分算子,并应用神经网络或其他机器学习方法来近似未知的非线性响应。
Oct, 2017
提出了一种新的数据驱动的降阶建模方法来高效求解参数化的偏微分方程问题,并利用隐式神经表示来对物理信号进行连续建模,而与空间 / 时间离散化无关。
Nov, 2023
神经常微分方程(NODEs)是基于常微分方程的深度学习中最具影响力的作品之一,它不断推广残差网络,并开创了一个新领域。本文提出了一种基于神经算子的方法来定义时间导数术语,称为分支傅里叶神经算子(BFNO),在各种下游任务中,我们的方法明显优于现有方法。
Dec, 2023
深度神经网络与偏微分方程之间的关系启发我们研究了深度神经网络的偏微分方程模型的一般形式。在一些合理的假设下,我们证明演化算子实际上由对流 - 扩散方程决定。这个模型为几个有效的网络提供了数学解释。此外,我们还展示了对流 - 扩散模型提高了鲁棒性并减小了 Rademacher 复杂度。基于对流 - 扩散方程,我们设计了一种适用于 ResNets 的新训练方法。实验证实了所提出方法的性能。
Jul, 2023
将模型驱动和数据驱动方法相结合,通过组合显式基于偏微分方程的方法与卷积神经网络,实现了光流场修复任务的联合架构,表现优于显式基线、生成对抗网络和概率扩散基线,成为光流场修复领域的最新技术。
May, 2024
本文提出了一种名为增强卷积神经去噪网络(ECNDNet)的新方法,通过使用残差学习和批量归一化技术提高了训练效果并加速了网络的收敛。此外,提议的网络使用扩张卷积增大了上下文信息,降低了计算成本,并在广泛实验中证明了 ECNDNet 优于图像去噪的现有最先进方法。
Oct, 2018
我们提出了一种基于神经网络的元学习方法,用于高效解决偏微分方程(PDE)问题。该方法通过元学习来解决各种各样的 PDE 问题,并将这些知识用于解决新的 PDE 问题。我们使用神经网络将 PDE 问题编码成问题表示,其中,控制方程由偏导数的多项式函数的系数表示,边界条件由一组点条件对表示。我们将问题表示作为神经网络的输入来预测解决方案,通过神经网络的前向过程,我们能够高效地预测特定问题的解决方案,而无需更新模型参数。为了训练我们的模型,我们最小化在基于物理知识的神经网络框架中适应 PDE 问题时的预期误差,通过这种方式,即使解决方案未知,我们也能评估误差。我们证明了我们提出的方法在预测 PDE 问题的解决方案方面优于现有方法。
Oct, 2023
本研究提出了一种基于偏微分方程的框架,该框架可以将几何意义上的 PDE 系数作为网络层的可训练权重,从而在同一设计中具有内置的旋转和转化等几何对称性,并通过实验证明了该框架可以在深度学习图像应用中显著提高性能.
Jan, 2020
本文提出了一种新型的混合反向问题复合框架,将深度神经网络的高表现力与现有偏微分方程数值算法相结合,通过语义自编码器的自定义层,将计算数学、机器学习和模式识别技术融合在一起,实现了域特定知识和物理约束的综合应用,解决了大量数据中的未知字段这个问题,称之为混合反向 PDE 网络 (BiPDE 网络),并在一维和二维空间中的泊松问题中,以及一维的时间依赖和非线性 Burgers 方程中,应用和证明了其可行性和噪声鲁棒性。
Jan, 2020