Aug, 2023

利用勒让德和切比雪夫神经块求解 Falkner-Skan 类型方程

PDF
TL;DR本文提出了一种新的深度学习架构来解决非线性 Falkner-Skan 方程，利用 Legendre 和 Chebyshev 神经模块展示了如何在神经网络中使用正交多项式以提高人工神经网络的逼近能力，并利用这些函数的数学性质，通过使用导数的运算矩阵克服了反向传播算法的计算复杂性，通过模拟 Falkner-Skan 方程的各种配置来验证了该方法的效率。
发现论文，激发创造
  • 切比雪夫谱神经网络解决偏微分方程

    利用 Chebyshev 谱方法神经网络 (CSNN) 模型求解常微分方程，通过自动微分计算损失函数避免求解非稀疏线性系统，提高了神经网络的训练效率和准确性，研究通过在椭圆偏微分方程上的测试，与著名的物理型神经网络 (PINN) 方法进行了比较，验证了 CSNN 模型的数值效率和准确性。

    Jun, 2024

  • 基于切比雪夫多项式的科尔莫哥洛夫－阿诺德网络：一种用于非线性函数逼近的高效架构

    基于 Chebyshev 多项式的 Chebyshev Kolmogorov-Arnold 网络（Chebyshev KAN）是一种新颖的方法，结合了 Kolmogorov-Arnold 定理的理论基础和 Chebyshev 多项式的强大逼近能力，以准确逼近复杂非线性函数。

    May, 2024

  • 卷积神经网络在图上的 Chebyshev 逼近，重温

    本文的研究目的是通过 Chebyshev 多项式的逼近来研究光谱卷积网络的设计问题。我们发现 ChebNetII 能够学习任意的图卷积并在全监督和半监督的节点分类任务中显示出优异的表现。

    Feb, 2022

  • 关于基于单层人工神经网络的插值准确性研究

    利用极限学习机来训练具有一层隐藏层的前馈神经网络（也称为浅层或两层网络），研究插值问题中的准确性以及使用 Chebychev 节点时的全局多项式逼近与 ANN 插值函数的异常行为。

    Aug, 2023

  • 使用深度学习解决图上的前向微分问题

    提出了一种基于深度学习和物理知识的神经网络模型用于解决在图上的非线性偏微分方程问题，并以分配每个神经网络模型至图的特定边缘，通过对训练损失函数添加惩罚项来实现对 Kirkhoff-Neumann（KN）节点条件的推断以及并行处理的功能。

    Oct, 2022

  • 深度神经网络与任意维度的任意阶有限元方法

    采用深度神经网络和 ReLU 激活函数，本研究证明能够在任意维度的分形网格上表示 Lagrange 有限元函数。通过引入基函数的新型全局公式，基于几何分解和高维分形网格及质心坐标函数的两个关键性质，该表示理论为这些深度神经网络的自然近似结果提供了便利。研究结果首次证明了深度神经网络如何系统地生成一般的连续分段多项式函数。

    Dec, 2023

  • 用于非线性偏微分方程的稀疏深度神经网络

    本文通过使用深度神经网络结合稀疏规则化技术，针对非线性偏微分方程的解进行了数值研究，结果表明该方法在求解 Burgers 方程和 Schrödinger 方程时能够生成稀疏且准确的解。

    Jul, 2022

  • 训练深度神经网络的实用拟牛顿方法

    本文提出了一种使用 Kronecker 乘积近似 Hessian 矩阵和结构化梯度的 Kronecker 分块对角线 BFGS 和 L-BFGS 方法用于深度神经网络训练，通过测试验证其性能优于或与 KFAC 和一阶随机方法相当。

    Jun, 2020

  • 基于物理信息的量子机器学习求解偏微分方程

    用量子 Chebyshev 特征映射来解微分方程，通过求和保里 Z 算符的张量积作为测量可观测量的改变，提高了精度和计算时间，在处理初始值问题时使用浮动边界处理。在复杂动力学和微分方程系统的求解上进行了测试，另外，我们提出了加入纠缠层以提高精度而不增加可变参数的方案。此外，还结合了物理信息神经网络的改进自适应方法来平衡多目标损失函数。最后，提出了一种新的量子电路结构来逼近多变量函数，并测试了在求解 2D Poisson 方程时的效果。

    Dec, 2023

  • 深度核学习

    介绍了可伸缩的深度核，将深度学习架构的结构属性与核方法的非参数灵活性相结合，通过局部核插值、引入点、Kronecker 和 Toeplitz 代数进行转换，使用这些闭式核可以用作标准核的替代品，在表达能力和可伸缩性方面具有优势，通常情况下，学习和推断代价为 $ O (n)$，而预测代价为每个测试点的 $O (1)$。

    Nov, 2015