本文提出一种利用 SVD 和 Taylor expansion 的方法，用于求解 close eigenvalues 时计算 eigenvectors 的梯度，从而提高 integrating eigendecomposition into deep networks 的准确性。

Apr, 2021

本文提出了一种基于 QR 分解的、专门针对计算机视觉应用情景下的批量矩阵 / 向量乘法计算的 EigenDecomposition 方法，通过使用显式 QR 迭代和多个加速技巧，将 QR 迭代的时间复杂度从 O (n^5) 降低到 O (n^3)，在小规模和中规模批量矩阵的场景下可以显著提升计算速度，并且在图像识别和生成方面有着较好的表现。

Jul, 2022

本文通过一种去除特征值分解的方法，解决了深度学习框架中的一个困境：如何在网络中显式编码已知的几何概念，并演示了此方法在多种实际情况下的鲁棒性和性能优越性。

Apr, 2020

通过无需特征分解的方法，在计算机视觉和深度学习领域中解决了特征分解操作难以优化的问题，并在关键点匹配和姿态估计等任务中取得了最新的成果。

Mar, 2018

基于低秩逼近特性的新型优化框架，通过学习前 L 个奇异值和奇异函数的正确顺序来提升所学函数的正交性，在计算物理和机器学习领域展示了提出的优化框架的有效性。

Feb, 2024

使用物理知识，提出了基于物理指导的专家混合体（PG-MoE）模型，通过将复杂的高维本征向量预测任务分解为若干简单子任务，提高了计算效率，应用于量子力学中的薛定谔方程求解，相较于传统深度学习方法具有更好的可推广性和更小的网络规模。

Feb, 2022

该研究探讨了训练深度神经网络及其与网络参数之间的复杂动力学关系。通过研究我们发现，训练网络往往沿着单一方向进行训练，被称为漂移模式。通过损失函数的二次势模型，我们解释了这种漂移模式，并提出其向潜在值的指数级缓慢衰减。我们揭示了 Hessian 特征向量与网络权重之间的相关性，该关系取决于特征值的大小，使我们能够识别网络内的参数方向。此外，通过奇异值分解，我们对权重矩阵进行了分解，以实用的方式识别 Hessian 内的关键方向，同时考虑其大小和曲率。此外，我们还发现了各层最大的 Hessian 特征值与整个网络之间的相似性，特别是更大的特征值更集中在深层。最后，基于我们的发现，我们探索了解决神经网络在学习新任务时遗忘之前任务知识的挑战，通过应用我们的发现，我们提出了一种有效的策略来缓解这种遗忘，这个策略可以适用于不同规模的网络，包括更大的架构。

Nov, 2023

该研究探讨了一种可并行化的方法，通过对大型图的频谱进行扩展，以加速奇异值分解求解器和谱聚类，并利用多项式逼近来实现此目的。

Jul, 2022

提出一种基于截断矩阵幂迭代的 DAG 学习方法，通过增加高阶多项式系数以逼近 DAG 约束条件。实验结果表明，该方法在各种设置下的性能优于现有的 DAG 学习方法。

Aug, 2022

提出一种新的基于加权方差协方差矩阵的双谱分解方法，旨在在具有加权和 / 或缺失数据问题的情况下，检索给定数量的正交主成分，该方法通过将主成分拟合到数据并进行分解，从而检索主系数。通过在实际情况和模拟情况下进行测试，结果表明该方法能够在数据集中识别最显著的模式，并且可以使用此方法将 Sloan Digital Sky Survey 类星体光谱从测量波长外推至更短和更长波长。同时该算法的实现速度快且灵活。

Dec, 2014