May, 2024

稀疏近似反前置条件生成建模

PDF
TL;DR通过深度学习范式，基于有限元离散化的椭圆微分算符生成的矩阵系统，我们提出了一种新的稀疏近似逆（SPAI）预条件器。通过精心设计的自编码器，我们寻求在低维子空间中表示可学习的高性能预条件器分布，能够为这些系统生成 SPAI 预条件器，展现了非常有希望的结果。
deep learningsparse approximate inversepreconditionersmatrix systemselliptic differential operators
发现论文，激发创造
  • 用于稀疏线性系统迭代解的图神经预处理器

    使用图神经网络作为通用预处理器，通过适当生成的训练数据更好地近似矩阵的逆，从而在解决病态问题方面表现出吸引人的性能，以及在构建时间和执行时间方面的优势，具有潜力解决来自偏微分方程、经济学、统计学、图形和优化等多个领域的大规模挑战性代数问题。

    Jun, 2024

  • 神经不完全分解：学习共轭梯度法的预处理器

    本文提出了一种基于自监管训练的图神经网络的数据驱动方法，用于加速科学计算和优化中遇到的大规模线性方程组求解，并且通过替换传统的手工制备预处理器，在收敛速度和计算效率方面实现了显著的提速。在我们的方法的核心是一种受稀疏矩阵理论启发的新型消息传递块。 我们评估了我们提出的方法在科学计算中产生的合成和真实问题上，结果表明 NeuralIF 在各种指标上都实现了竞争性的性能。

    May, 2023

  • 基于 Onsager 修正的深度学习在稀疏线性反问题中的应用

    本文提出了一种新颖的神经网络架构，通过 Onsager 校正的方式在层间解耦预测误差，以应用深度学习于稀疏线性反问题中，数值实验表明，与 Gregor 和 LeCun 的 “learned ISTA” 网络相比，我们的 “Learned AMP” 网络在精度和复杂性方面均有显著提高。

    Jul, 2016

  • 增强式人工智能迭代求解器用于加速大规模参数化系统的解决方案

    该论文基于最新的机器学习工具，提供了一种定制的迭代求解器，结合代数多重网格方法和 proper orthogonal decomposition（POD-2G），能够在任意所需精度下，求解大规模参数化问题中的线性方程系统。

    Jul, 2022

  • 矩阵的灵活多层稀疏逼近及其应用

    该论文介绍了一种算法，旨在通过将相应矩阵近似因式分解为少量稀疏因子，降低应用高维线性算子的复杂度，该方法依赖于近期非凸优化的进展，首先进行详细的解释和分析，然后在字典学习图像去噪和逆问题中展示实验效果。

    Jun, 2015

  • 带有生成先验的钉板矩阵模型

    通过生成模型替换稀疏性假设，研究了低秩矩阵观测到的带有稀疏结构的峰值问题，并使用随机矩阵理论分析了增强的谱算法的性能和阈值，展示其在真实数据集中优于传统的主成分分析。

    May, 2019

  • 使用 GAN 先验解决线性反问题：具有可证明保障的算法

    本研究使用生成对抗网络（GAN）代替稀疏性等手工先验知识来解决线性反问题，提出了一种有效的 PGD 算法，并提供了理论保证，该算法展现出优于现有方法的性能。

    Feb, 2018

  • 从线性代数中学习：一种用于共轭梯度解算器的图神经网络预处理器设计方法

    大规模线性系统中使用迭代求解器和预处理器，我们使用小型图神经网络作为预处理器并与传统方法和神经网络预处理进行对比实验证明我们的方法更优。

    May, 2024

  • 可逆生成模型用于反问题：减轻表示误差和数据集偏差

    研究表明，在图像逆问题中，具有零表示误差的可逆神经网络可以作为自然信号的有效先验，在压缩感知等方面比稀疏先验和 GAN 先验更精确。

    May, 2019

  • 学习结构高斯模型来近似深度集成

    该论文提出使用稀疏结构多元高斯来逼近概率集成模型的输出，同时通过卷积神经网络实现，该方法显式地捕获了预测的不确定性和结构相关性，并且在单个网络中可以进行空间相关采样和测试时的任意空间限制，并在单目深度估计上得到可比较的数量表现。

    Mar, 2022