我们提出了几何信息神经算子（GINO），一种高效的方法，用于学习具有不同几何形态的大规模偏微分方程的解算器。该算子基于图和傅里叶结构，使用输入形状的有符号距离函数和点云表示来学习解算器。用于验证 GINO 方法在大规模模拟上的性能，我们生成了 3D 车辆几何形态的工业标准空气动力学数据集，雷诺数高达五百万。在这个大规模 3D 流体模拟中，传统数值方法计算表面压力的成本很高。我们成功地训练 GINO 仅使用五百个数据点来预测车身表面的压力。在成本 - 准确性实验中，与优化后的基于 GPU 的计算流体动力学（CFD）模拟器相比，GINO 的计算阻力系数速度提高了 26000 倍。在测试新的几何形态和边界条件（入口速度）组合时，GINO 相对于深度神经网络方法的误差率降低了四分之一。

Sep, 2023

提出了一个基于梯度优化的算法，通过 ReLU 感知优化在保证预测准确性的前提下，针对私有推理的瓶颈问题实现了可选择性地进行线性化，实验结果表明，相比现有研究，该算法在提升预测准确率（50K iso-ReLU）上可达到 4.25％，或者在保证预测准确性（70％）的前提下可减少 2.2 倍的运行时间，并在延迟 - 准确性空间中不断完善。

Feb, 2022

本文介绍了 AMD 公司开源的深度学习基元库 MIOpen，讨论了其内部工作方式和支持特性，提出了该库的一些创新变化，如实现内存带宽和 GPU 启动开销的融合优化，提供自动调整基础架构以克服问题配置的设计空间，以及实现了不同的算法来优化过滤器和不同输入尺寸的卷积，是第一个公开支持 bfloat16 数据类型进行卷积的库，允许在低精度下进行高效的训练，而不会丢失精度。

Sep, 2019

使用物理信息神经网络（PINN）来解决具有多尺度问题的新框架，通过重新构建损失函数并应用不同数量的幂运算到损失项上以使损失函数中的项具有相近的数量级，并且引入分组正则化策略以解决不同子域中变化显著的问题，该方法使得具有不同数量级的损失项可以同时优化，推动了 PINN 在多尺度问题中的应用。

Aug, 2023

通过提出一种轻量级低秩 PINN 和相关的超网络元学习算法，本研究有效地解决了在各种工程和应用科学应用中需要对多个输入参数进行重复数值模拟的问题，并展示了该方法在克服 PINN 的 “失败模式” 方面的有效性。

Oct, 2023

本文提出物理信息神经操作器（PINO），该方法使用现有的数据和物理约束条件来学习参数化偏微分方程（PDE）族的解算器，通过结合数据和 PDE 约束条件，PINO 成功地实现了高分辨率实例的准确性和泛化能力。

Nov, 2021

该研究介绍了一种基于深度学习的黑盒优化框架，Deeplite Neutrino，旨在优化深度学习模型的大小，从而在边缘设备上实现设备上智能应用。该框架易于将其纳入现有生产流程并支持 PyTorch 和 Tensorflow 库。同时，该框架的性能经过了多个基准数据集和流行的深度学习模型的优化，且在多个客户端获得了成果和证明。

Jan, 2021

本文综述了物理信息机器学习在解决复杂物理和生物系统中的应用，重点介绍了使用 PINN 和 PIGN 网络的物理信息神经网络和图神经网络的应用以及其在大规模工程问题中的扩展。

May, 2022

本文提出了一种现代观点和一般性的数学框架，用于涵盖超参数机器学习模型和非线性方程组的损失景观和高效优化，其中包括超参数深度神经网络，并说明这些系统的 PL$^*$ 条件密切相关，这解释了（S）GD 对全局最小值的收敛，并提出了一个放松 PL$^*$ 条件的方法可应用于几乎超参数系统。

Feb, 2020

提出了 PiPAD，一种基于管道和并行设计的动态图神经网络 (DGNNs) 训练框架，用于在 GPU 上进行端到端性能优化。在各种数据集上的评估表明，PiPAD 在三种代表性模型上实现了 1.22 倍 - 9.57 倍的超越最先进的 DGNN 框架的加速。

Jan, 2023