ICLRDec, 2023

HyperDeepONet：通过超网络利用有限资源学习复数目标函数空间中的算子

PDF
TL;DR提出了一种使用超网络的方法，即 HyperDeepONet，通过较少的参数来学习复杂操作符，并成功地在较少的计算资源下学习各种操作符，并具有实时预测的能力。
complex physical dynamicsreal-time predictiondeeponethyperdeeponetoperator learning
发现论文，激发创造
  • DeepONet：基于算子的普适逼近定理学习非线性算子用于鉴别微分方程

    神经网络具有普适逼近能力，使用一层隐藏层即可精确逼近任何非线性连续算子，但需要 DeepONet 结构通过降低泛化误差以实现其潜力应用。

    Oct, 2019

  • 衍生增强的深层算子网络

    深度运算符网络 (DepthONets) 是一类学习函数空间之间映射的神经运算符，最近已被发展成为参数化偏微分方程 (PDEs) 的替代模型。本文提出了一种增强导数的深度运算符网络（DE-DepthONet），利用导数信息提高预测精度，尤其在训练数据有限时能提供更准确的导数近似。DE-DepthONet 将输入的维度降低到 DepthONet，并在损失函数中引入两种类型的导数标签进行训练，即输出函数相对于输入函数的方向导数和相对于物理域变量的梯度。我们在三个不断增加复杂度的方程上测试了 DE-DepthONet，以证明其相对于普通 DepthONet 的有效性。

    Feb, 2024

  • 一个高级的受物理启发的神经算子用于高度非线性系统的全面设计优化：航空航天复合材料加工案例研究

    该论文介绍了一种针对复杂系统和多输入函数的先进物理信息 DeepONet 模型，通过引入非线性解码器、课程学习和域分解等架构增强和有效训练策略，该模型在高维设计空间中具有显著提高的准确性，比基本物理信息 DeepONet 模型提升了两个数量级。它在广泛的设计空间中具有零样本预测能力，成为加速复合材料工艺设计和优化的强大工具，在其他工程领域具有强非线性特征的应用具有潜在的应用价值。

    Jun, 2024

  • 考虑多个输入函数的增强型 DeepONet 模型用于建模偏微分算子

    本文介绍了一种扩展了输入功能的神经网络结构 - Enhanced DeepONet，该结构可接受多个输入功能，通过内积与输出卡车网络连接，可用于模拟偏微分方程。数值结果表明，Enhanced DeepONet 的精度约为全连接神经网络的 7-17 倍或简单扩展 DeepONet 的 2-3 倍。

    Feb, 2022

  • 深度操作网络在核系统数字孪生技术中的潜力

    该研究介绍了 Deep Operator Network (DeepONet) 的应用，作为一个强大的代理建模方法，用于数字孪生系统，应用于核工程领域。DeepONet 展现了出色的预测准确性，优于传统机器学习方法。通过广泛的基准测试和评估，研究展示了 DeepONet 在解决复杂粒子传输问题方面的可伸缩性和计算效率。该研究对优化传感器布置和模型评估提出了挑战，这是实际实施中的关键问题。总的来说，DeepONet 为核工程研究和应用提供了一个有希望和具有变革性的工具，其准确的预测和高效的计算能力可以推动数字孪生系统的进一步发展，推进核工程研究，实现对关键工程领域的代理建模技术的有效利用。

    Aug, 2023

  • 在潜在空间中学习提高深度神经算子的预测准确性

    使用深度自编码器识别高维 PDE 输入输出函数的潜在特征表示，可以增强学习，并提高时间依赖型的 PDE 模型的计算精度和效率。

    Apr, 2023

  • 基于 FAIR 数据的两种神经算子的综合公平比较（包括实用扩展）

    本文研究了两种神经算子的性能，提出了它们的实际扩展，使它们更加准确、鲁棒，并适用于工业复杂应用，针对多个基准测试问题，将其与已有神经算子进行比较，证明了其在实际问题中的有效性，并对两种算子进行了理论上的对比。

    Nov, 2021

  • RandONet: 基于随机投影的浅层网络学习线性和非线性运算符

    通过随机投影算子网络（RandONets）解决动态系统的逆问题，实现线性和非线性算子的学习，降低参数空间维度，证明了 RandONets 对非线性算子和线性非线性演化算子的普适逼近准确性，相对于传统深度算子网络 DeepONets 具有更高的数值逼近精度和计算效率。

    Jun, 2024

  • 关于深度操作网络的训练和泛化

    我们提出了一种新颖的深度算子网络（DeepONets）的训练方法，通过将整个复杂训练任务分解为两个简化的子任务，首先训练主干网络，然后顺序训练分支网络，并引入了格拉姆 - 施密特正交化过程以提高稳定性和泛化能力。

    Sep, 2023

  • 利用物理信息的深度神经网络学习参数偏微分方程的解算子

    本文提出了一种被称为物理学知识不同 DeepONets 的新模型类，通过使用自动差分在模型训练期间施加软惩罚约束来实现重力定律，其将 DeepONet 模型输出偏向于确保物理一致性，进而显著提高 DeepONets 的预测准确性，并大大减少了大型训练数据集的需求。

    Mar, 2021