Jul, 2018

基于分层矩阵的多尺度神经网络

PDF
TL;DR引入一种基于 H 矩阵结构的新多尺度人工神经网络，可将其推广到非线性情况，并且能够高效逼近非线性薛定谔方程和 Kohn-Sham 密度泛函理论等离散非线性映射。
multiscale artificial neural networknonlinearpartial differential equationsschrödinger equationskohn-sham density functional theory
发现论文，激发创造
  • 基于层次深度学习的适应时间步长的多尺度模拟方案

    使用深度神经网络模拟多尺度问题的新方法，通过利用神经网络时间步进器的分层学习，自适应时间步长以近似不同时间尺度上的动力学系统流动图，与固定步长神经网络求解器相比，该方法在较少的计算时间内实现了业界领先的性能。

    Nov, 2023

  • 分层多尺度循环神经网络

    本文提出了一种多尺度递归神经网络，称为分层多尺度递归神经网络，通过使用新的更新机制，在不使用显式边界信息的情况下捕获序列中的潜在分层结构，从而解决递归神经网络中的层次和时间表示问题，并在字符级别语言建模和手写序列建模上进行评估。

    Sep, 2016

  • 多尺度拓扑优化使用神经网络

    使用神经网络进行直接多尺度拓扑优化的新方法，通过反向均质化来优化每个细胞以实现良好的连接性，持续改善相邻微结构细胞之间的兼容性，实现 n 维多尺度优化问题的 2n 维反向均质化问题。

    Apr, 2024

  • HT-Net：用于多尺度 PDE 的层次 Transformer 操作学习模型

    本文介绍了一种层次转换器方案，用于高效地学习多尺度 PDE 的解算子，通过自注意力和 H^1 损失函数，实现了对多尺度解空间的编码和解码，并在数值实验中展示了与最先进方法相比的优越性。

    Oct, 2022

  • 同调神经网络：一个适用于多变量复杂性的稀疏架构

    本研究应用基于网络的信息过滤技术设计了一种新的深度神经网络单元，其具有由基础数据的同调结构构建的稀疏高阶图形架构，同时证明它在传统难以解决的领域，如表格数据和时间序列回归问题中的有效性，仅使用一小部分参数即可超越最先进的机器学习和深度学习模型的结果。

    Jun, 2023

  • 一个使用层次聚类的多尺度图卷积网络

    研究了利用多尺度分解通过层次拓扑信息的新型体系结构，并通过 Girvan-Newman 层次聚类算法生成了一棵树，使得架构可以学习从粗到细的多尺度潜在空间表示，并在基准引文网络上表现出竞争力。

    Jun, 2020

  • 多尺度微分方程时间步进的分层深度学习

    本文提出了一种基于深度神经网络的多尺度时间步进方案来数值模拟非线性微分方程的系统，解决了多时间尺度模型的数值模拟问题，同时提高了模拟的准确性和计算效率。

    Aug, 2020

  • 层级多尺度神经网络中的连续学习

    本研究提出了一个层次化的多尺度语言模型，通过在线元学习方式，使用一个上层模型更新低层模型的权重来编码短时间尺度和长时间尺度的依赖关系，并使用弹性权重一致性作为高层次来防止灾难性遗忘。

    May, 2018

  • 神经多网格架构

    我们提出了一种简便的无矩阵神经网络结构用于多重网格方法。该结构简单到可以在不到五十行的代码中实现，但包含许多不同的多重网格求解器。我们认为，固定的神经网络没有密集层不能实现高效的迭代方法。因此，标准的训练协议不能生成竞争优势的求解器。为了克服这个困难，我们使用参数共享和层序列化。所得到的网络可以在数以千计未知元的线性问题上进行训练，并在百万未知元的问题上保持其效率。从数值线性代数网络的训练角度来看，它对应于找到几何多重网格方法的最佳平滑器。我们在几个二阶椭圆方程上演示了我们的方法。对于测试的线性系统，与基本线性多重网格方法的 Jacobi 平滑器相比，我们得到的误差传播矩阵的谱半径较小，是其 2 到 5 倍。

    Feb, 2024

  • 基于多重网格增强的深度学习方法求解亥姆霍兹方程：紧致隐层优化可扩展性

    本研究提出一种基于深度学习的迭代方法，用于解决高波数下的离散异质 Helmholtz 方程。该方法结合了经典的迭代多重网格求解器和卷积神经网络（CNN），通过预处理得到一个学习的神经求解器，它比标准的多重网格求解器更快、更可扩展。

    Jun, 2023