Dec, 2023

基于注意力增强的神经微分方程用于物理感知的离子输运深度学习

PDF
TL;DR通过基于深度学习的注意力增强神经微分方程模型，我们研究离子在纳米孔膜中的运输，并探讨了注意力机制在揭示不同混合物组成下的离子配对关系中的作用。结果表明，与传统的基于偏微分方程的模型相比，基于物理学原理的深度学习解决方案在建模复杂运输现象方面表现更好，并为各种应用提供了有前途的途径。
species transport modelsion transportnanoporous membranesattention mechanismphysics-informed deep learning
发现论文，激发创造
  • PDE+：通过自适应分布扩散 PDE 增强泛化能力

    该论文提出了一种利用偏微分方程来改进神经网络泛化性能的方法，并将其实现为 PDE + (具有自适应分布扩散的 PDE)，该方法通过扩散每个样本以覆盖语义相似的输入分布，以改善泛化性能。

    May, 2023

  • 物理信息操作学习与有限元法的参数学习偏微分方程的融合

    利用物理知识驱动的深度学习方法在异质固体中解决参数化偏微分方程，它的关键是建立复杂的热导率分布、温度分布和热流分量之间的联系，通过固定边界条件，在这项工作中，我们独立于有限元方法等经典求解器，并通过基于离散弱形式的损失函数定义方法给出出色的结果，该损失函数是一个代数方程，大大提高了训练效率。通过将我们的方法与标准有限元方法进行基准测试，我们展示了使用训练有素的神经网络在温度和通量剖面方面进行准确且更快的预测，我们还展示了在未知情况下，与纯数据驱动方法相比，所提出的方法具有更高的准确性。

    Jan, 2024

  • 偏微分方程与深度神经网络的结合：综述

    本文对深度神经网络用于偏微分方程 (PDEs) 求解的现状和潜在应用进行了综述，分析和分类了相关方法在科学研究和工程场景中的应用，介绍了这一领域的来源、历史、特点、类型以及未来趋势。

    Oct, 2022

  • 一种公理化的深度神经网络 PDE 模型

    深度神经网络与偏微分方程之间的关系启发我们研究了深度神经网络的偏微分方程模型的一般形式。在一些合理的假设下，我们证明演化算子实际上由对流 - 扩散方程决定。这个模型为几个有效的网络提供了数学解释。此外，我们还展示了对流 - 扩散模型提高了鲁棒性并减小了 Rademacher 复杂度。基于对流 - 扩散方程，我们设计了一种适用于 ResNets 的新训练方法。实验证实了所提出方法的性能。

    Jul, 2023

  • 通过通量函数算符学习多孔介质中多相流传输的泛解决方案

    本文介绍了一种新的深度学习算法 ——PI-DeepONets 用于求解 Buckley-Leverett 偏微分方程并在多个科学和工程领域实现了四个数量级的速度提升，为传输问题研究提供了有前途的工具。

    Jul, 2023

  • 使用物理感知神经网络解决反问题偏微分方程

    本文提出了一种新型的混合反向问题复合框架，将深度神经网络的高表现力与现有偏微分方程数值算法相结合，通过语义自编码器的自定义层，将计算数学、机器学习和模式识别技术融合在一起，实现了域特定知识和物理约束的综合应用，解决了大量数据中的未知字段这个问题，称之为混合反向 PDE 网络 (BiPDE 网络)，并在一维和二维空间中的泊松问题中，以及一维的时间依赖和非线性 Burgers 方程中，应用和证明了其可行性和噪声鲁棒性。

    Jan, 2020

  • 元学习物理信息神经网络以高效求解新的偏微分方程

    我们提出了一种基于神经网络的元学习方法，用于高效解决偏微分方程（PDE）问题。该方法通过元学习来解决各种各样的 PDE 问题，并将这些知识用于解决新的 PDE 问题。我们使用神经网络将 PDE 问题编码成问题表示，其中，控制方程由偏导数的多项式函数的系数表示，边界条件由一组点条件对表示。我们将问题表示作为神经网络的输入来预测解决方案，通过神经网络的前向过程，我们能够高效地预测特定问题的解决方案，而无需更新模型参数。为了训练我们的模型，我们最小化在基于物理知识的神经网络框架中适应 PDE 问题时的预期误差，通过这种方式，即使解决方案未知，我们也能评估误差。我们证明了我们提出的方法在预测 PDE 问题的解决方案方面优于现有方法。

    Oct, 2023

  • 数据范围确定：高效学习通用传输偏微分方程的演化

    该论文提出了一种分布式数据范围方法，通过严格限制信息范围来预测局部属性，从而解决了深度学习架构在传输现象模拟中的不兼容问题，实验证明该方法显著加速了训练收敛并提高了大规模工程模拟的模型泛化能力。

    May, 2024

  • 以偏微分方程为基础的深度神经网络

    该论文通过偏微分方程的理论框架，提出了三种新型的 ResNet 神经网络架构，分别属于抛物线和双曲线类型的 CNN，能够提供深度学习的新算法和思路，并用数值实验证明了它们的竞争力。

    Apr, 2018

  • 基于量子启发式张量神经网络求解偏微分方程

    本文介绍了如何通过 Tensor Neural Networks 来解决 Partial Differential Equations 的问题，实现了与 Deep Neural Network 同样精度的情况下更小的参数及更快的训练速度，并以 Black-Scholes-Barenblatt equation 模型为例进行了测试验证。

    Aug, 2022