Jun, 2024
用 Bregman 学习稀疏化 PDE 解数据的降维
Sparsifying dimensionality reduction of PDE solution data with Bregman learning
Tjeerd Jan Heeringa, Christoph Brune, Mengwu Guo
TL;DR我们提出了一种多步算法，通过在编码器 - 解码器网络中引入稀疏性来减少参数的数量和潜在空间的额外压缩。该算法以稀疏初始化网络开始，并使用线性化的 Bregman 迭代进行训练。在训练之后，我们进一步通过使用一种适当的正交分解形式来压缩潜在空间的维度。最后，我们使用一种偏置传播技术将引入的稀疏性转化为参数的有效减少。我们将该算法应用于三个代表性的偏微分方程模型：1D 扩散、1D 平流和 2D 反应扩散。与 Adam 等传统训练方法相比，该方法在保持相似准确性的同时，减少了 30% 的参数数量和显著减小的潜在空间。