Sep, 2019

神经网络仿真物理系统时施加分析约束

PDF
TL;DR本研究介绍了一种将非线性分析约束条件通过网络架构或损失函数施加在神经网络上的方法，应用于气候建模中的混合过程，可以确保精度且不影响性能，同时也减少与约束条件相关的输出错误。
neural networksnonlinear physical systemsfundamental constraintsclimate modelingconservation laws
发现论文，激发创造
  • 神经网络模拟器在气候建模中实现能量守恒

    两种方法被提出在物理模型神经网络仿真中使用以保持线性守恒定律有助于更好地推广到其训练数据之外的条件，例如全球变暖。

    Jun, 2019

  • 基于专家模型的物理约束扩展

    通过使用 Mixture-of-Experts (MoE)，我们开发了一种可扩展的方法来强制执行硬物理约束，以增强神经 PDE 求解器在预测挑战性非线性系统动力学方面的准确性，并改善训练稳定性以及在训练和推断阶段所需的计算时间。

    Feb, 2024

  • 基于物理知识约束的神经网络用于动力系统建模

    利用物理学基础知识作为先验知识，通过将物理学基础知识注入到神经网络结构中，从轨迹数据中学习动力学模型，并在模型的训练过程中通过增广拉格朗日法强制实施物理学知识约束，实验证明该做法比不包括先验知识的基线方法在相同的训练数据集上能够将系统动力学预测准确率提升两个数量级。

    Sep, 2021

  • 基于约束的图网络模拟器

    本文介绍了一个基于约束的机器学习模拟框架，使用图神经网络实现约束函数，并通过求解优化问题计算未来预测，可应用于多种具有挑战性的物理领域，提供了传统模拟和数值方法的归纳偏差。

    Dec, 2021

  • 神经网络中嵌入的物理对称性

    本文的重点是将物理约束嵌入神经网络的结构中，以解决神经网络在物理应用中缺乏可解释性和物理不可知设计的问题，通过限制可调参数并添加特殊层，保证所需约束不需要显式正则化项即可满足，为解决函数的奇偶对称性和能量守恒问题提出了监督和非监督网络，并提出了一种嵌入所谓辛结构的无监督神经网络解决系统的守恒微分方程，表现出比非辛神经网络更好的性能。

    Apr, 2019

  • 深度网络上强制加入硬限制：承诺与局限

    本文介绍了如何在深度神经网络中实施硬约束来提高预测质量，并通过与软约束相比的实验结果证明了软约束比硬约束更加有效。

    Jun, 2017

  • 用神经投影学习物理约束

    我们提出了一种新的神经网络家族，通过学习基础约束条件来预测物理系统的行为，其中我们的神经投影算子是核心，可以自动有效地发现各种约束条件，并预测不同物理系统的管辖行为。

    Jun, 2020

  • 通过定制损失函数获取约束的深度神经网络

    使用基于深度神经网络和符号回归的新方法，可以直接从数据集中提取约束条件。该方法可以实现约束条件的直接表达，并可与其他框架进行扩展和连接。

    Mar, 2024

  • 神经网络激活的齐次线性不等式约束

    本文提出了一种方法来在神经网络激活中施加均匀的线性不等式约束，以结合数据驱动的训练方法和先前任务的先验知识。该算法可在测试时间内显著加速推理速度，并避免了在每个训练步骤中求解优化问题或手动调整超参数。该方法通过约束变分自编码器进行实验演示。

    Feb, 2019

  • 受限经验风险最小化：理论与实践

    提出了一种框架，允许在广泛使用的深度神经网络中严格执行约束条件，其中约束通过限制 DNN 参数的子流形来确切满足。该框架的一个示例是将卷积神经网络（CNN）的滤波器限制为小波，并将这些小波网络应用于医学领域的轮廓预测任务。

    Feb, 2023