BriefGPT.xyz
Ask
alpha
关键词
preconditioners
搜索结果 - 5
从线性代数中学习：一种用于共轭梯度解算器的图神经网络预处理器设计方法
大规模线性系统中使用迭代求解器和预处理器，我们使用小型图神经网络作为预处理器并与传统方法和神经网络预处理进行对比实验证明我们的方法更优。
PDF
a month ago
稀疏近似反前置条件生成建模
通过深度学习范式，基于有限元离散化的椭圆微分算符生成的矩阵系统，我们提出了一种新的稀疏近似逆（SPAI）预条件器。通过精心设计的自编码器，我们寻求在低维子空间中表示可学习的高性能预条件器分布，能够为这些系统生成 SPAI 预条件器，展现了非
→
PDF
2 months ago
曲率信息的 SGD：通过通用李群预条件器
提出了一种新的方法，通过利用从海森矩阵向量积或参数和梯度的有限差分得到的曲率信息，类似于 BFGS 算法，加速随机梯度下降（SGD）。该方法涉及两个预条件器：一个矩阵无关的预条件器和一个低秩近似预条件器。我们使用一种对随机梯度噪声稳健且不需
→
PDF
5 months ago
结构化半定规划用于恢复结构化预条件器
我们开发了一个普遍框架用于寻找解线性系统的近似最优预条件器，利用该框架，我们获得了优化预条件化和线性系统求解问题的运行时间改进。
PDF
8 months ago
ICLR
用于 SGD 的矩阵李群上的预条件器
本文研究了两种类型的预处理器和预处理随机梯度下降（SGD）方法，这些预处理器可以从一个框架中导出，并且可以在用户指定的任何矩阵李群上使用自然或相对梯度下降进行有效估计。
PDF
6 years ago
Prev
Next