Jan, 2023

MG-GNN: 多重网格图神经网络用于多层次域分解方法的学习

PDF
TL;DR本文提出了一种新颖的 GNN 结构，称为多级网格图神经网络 (MG-GNN)，用于学习两级 DDM 中的最优化参数，并使用一种新的无监督损失函数对其进行训练。我们展示了 MG-GNN 在优化方面优于其他流行的层次图网络架构，并且证明了我们提出的损失函数对于实现这种改进的性能是至关重要的。
domain decomposition methodspartial differential equationsmultigrid graph neural networksunsupervised loss functionoptimization
发现论文，激发创造
  • Navier-Stokes 方程的神经网络多重网格求解器

    DNN-MG 是一种深度神经网络多重网格求解器，旨在提高 Navier-Stokes 方程的计算效率，通过使用多重网格方法在粗网格上经典求解，同时使用具有记忆的循环神经网络校正直接插值得到的解，从而避免在细网格上昂贵的计算。该方法通过高度紧凑的神经网络实现了计算时间的缩短，并具有良好的推广性。

    Aug, 2020

  • 用于解决大规模问题的多级图神经网络预处理器

    该研究介绍了一种新颖的预处理器，将 GNN 模型与多级域分解框架结合起来，以提高 Krylov 方法的效率，并产生一个混合求解器，可以以任何所需的精度收敛。

    Feb, 2024

  • 参数化偏微分方程的多极图神经算子

    通过构建多级图神经网络框架，解决基于深度学习的物理系统模拟和偏微分方程求解中数据格式与神经网络所需结构不匹配所带来的挑战，提出一种对于 GNN 和多分辨率矩阵核分解统一的方法，该方法可以处理所有范围的相互作用并具有线性复杂度。实验证明，这种多图网络可以学习离散化不变的 PDE 解算符并可以在线性时间内进行评估。

    Jun, 2020

  • 机器学习和域分解方法 -- 综述

    综述了黑箱机器学习方法与传统数值方法和领域专业知识相结合的混合算法在科学机器学习和各种工业领域，尤其是计算科学与工程中的重要性日益增长。对结合机器学习和区域分解方法的研究进行了调查，包括：经典机器学习的区域分解，用于加速物理感知神经网络训练的区域分解，使用机器学习改善区域分解方法的收敛性或计算效率，以及机器学习作为解决偏微分方程区域分解方法的离散化方法。在每个领域，总结了现有工作和重要进展，并最后讨论了未来研究的挑战和机会。

    Dec, 2023

  • MgNet: 多网格与卷积神经网络的统一框架

    MgNet 模型同时恢复了用于图像分类的卷积神经网络 (CNN) 和求解离散化偏微分方程 (PDE) 的多重网格 (MG) 方法，该模型基于 CNN 和 MG 方法之间的密切联系，介绍了特征空间和数据空间的对偶概念，最终实现了修改后具有更好性能的 CNN 模型。

    Jan, 2019

  • 面向具有专用神经加速器的通用神经替代求解器

    基于代理神经网络的偏微分方程求解器在加速求解偏微分方程方面具有潜力，但它们在固定域大小、几何布局和边界条件的系统中受到限制。我们提出了专门的神经加速器驱动的域分解方法（SNAP-DDM），一种基于 DDM 的偏微分方程求解方法，其中包含具有任意边界条件和几何参数的子域问题，通过一组专门的神经算子准确求解。我们将 SNAP-DDM 应用于二维电磁学和流体力学问题，并展示了网络架构和损失函数工程的创新如何产生近乎完全精确的专用代理子域求解器。我们利用这些求解器以及标准 DDM 算法准确求解自由形状的电磁学和流体问题，其域大小范围广泛。

    May, 2024

  • 分布式图神经网络训练：综述

    这篇综述论文分析了分布式图神经网络训练的三个挑战以及通过四类优化技术解决这些挑战的方法：GNN 数据分区、GNN 批量生成、GNN 执行模式和 GNN 通信协议。最后，本文总结了现有的多 GPU、GPU 集群和 CPU 集群的分布式 GNN 系统，并就可伸缩 GNNs 的未来方向进行了讨论。

    Nov, 2022

  • 学习增强可扩展代理以用于网格物理学的科学计算算法

    本文讲解了如何通过域分解方案将 MeshGraphNets（MGN）应用于具有百万节点的 3D 网格，进而生成计算流体力学（CFD）模拟结果，并通过高阶数值积分技术提高 MGN 的准确性和训练时间，为其在实际应用中的大规模使用提供了有效的路径。

    Apr, 2023

  • 面向多个数据集约束宇宙学参数的领域自适应图神经网络

    通过培训在两个不同的 CAMELS 流体动力学宇宙学模拟套件数据上的模型，我们研究了领域自适应图神经网络（DA-GNNs）的泛化能力，并通过最大均值差异（MMD）实现了无监督领域自适应，证明了 DA-GNN 在跨数据集任务上获得了更高的准确性和鲁棒性，显示出领域适应对适当的潜空间数据对齐的效果，这表明 DA-GNN 是一种提取领域独立宇宙学信息的有前途的方法，对于真实宇宙调查数据的强大深度学习是至关重要的一步。

    Nov, 2023

  • GraphMDN：利用图结构和深度学习解决反问题

    本文研究了新型的图神经网络 (Graph Neural Networks) 在处理非欧几里德图结构数据时的应用。作者提出了一种将 Graph Neural Network 和混合密度网络 (Mixture Density Network, MDN) 相结合的新型网络 (Graph Mixture Density Network), 该网络可将图结构信息嵌入到深度神经网络中，并在数据具有图结构、有多模态回归目标或是需要模拟多峰分布的情况下表现优异。作者在基于人类姿势估计的任务中，比较了该网络与其他现有的图神经网络模型，结果表明该模型有效地提升了预测性能。

    Oct, 2020