通过无需特征分解的方法，在计算机视觉和深度学习领域中解决了特征分解操作难以优化的问题，并在关键点匹配和姿态估计等任务中取得了最新的成果。

Mar, 2018

介绍了一种在深度网络中利用特征向量的数值稳定且可微分方法，其可处理大矩阵且不需要拆分，并展示了其在 ZCA 白化和 PCA 去噪方面的鲁棒性优于标准的 Eigendecomposition 和 Power Iteration 方法。

Jun, 2019

基于低秩逼近特性的新型优化框架，通过学习前 L 个奇异值和奇异函数的正确顺序来提升所学函数的正交性，在计算物理和机器学习领域展示了提出的优化框架的有效性。

Feb, 2024

使用物理知识，提出了基于物理指导的专家混合体（PG-MoE）模型，通过将复杂的高维本征向量预测任务分解为若干简单子任务，提高了计算效率，应用于量子力学中的薛定谔方程求解，相较于传统深度学习方法具有更好的可推广性和更小的网络规模。

Feb, 2022

研究神经网络学习使用不同激活函数的函数类的问题，探讨了最小的假设条件，该假设条件相应于 Gram 矩阵的特征值衰减。通过足够强的多项式特征值衰减，他们获得了所有相关参数的多项式时间算法，这是对 ReLU 网络的第一个以纯分布假设为基础的支持多项式时间算法的假设。特征值衰减是实际数据集上的观察结果。

Aug, 2017

本文通过对深度网络的黑塞矩阵的特征值分解研究深度网络的损失地形，特别关注负特征值的重要性及其适当处理的益处。

Feb, 2019

本文提出了一种通用框架来训练单个深度神经网络，以解决任意线性反问题，通过提供一个接近算子来实现这一目的，并在压缩感知和像素插值等任务中显示出优越的性能。

Mar, 2017

论文研究了一个新的、广义的针对函数空间的目标函数，应用于机器学习中核函数和数据分布定义的积分算子的主特征向量的训练。该方法通过近似高斯牛顿矩阵来实现线性化的深度神经网络在现代图像分类数据集上的扩展，能够提供对多元函数的准确逼近。

Apr, 2022

该研究探讨了训练深度神经网络及其与网络参数之间的复杂动力学关系。通过研究我们发现，训练网络往往沿着单一方向进行训练，被称为漂移模式。通过损失函数的二次势模型，我们解释了这种漂移模式，并提出其向潜在值的指数级缓慢衰减。我们揭示了 Hessian 特征向量与网络权重之间的相关性，该关系取决于特征值的大小，使我们能够识别网络内的参数方向。此外，通过奇异值分解，我们对权重矩阵进行了分解，以实用的方式识别 Hessian 内的关键方向，同时考虑其大小和曲率。此外，我们还发现了各层最大的 Hessian 特征值与整个网络之间的相似性，特别是更大的特征值更集中在深层。最后，基于我们的发现，我们探索了解决神经网络在学习新任务时遗忘之前任务知识的挑战，通过应用我们的发现，我们提出了一种有效的策略来缓解这种遗忘，这个策略可以适用于不同规模的网络，包括更大的架构。

Nov, 2023

本文提出三种基于幂法、逆幂法和移位逆幂法的神经网络，利用自动微分实现微分算子，学习线性特征值问题的特征函数并通过特殊定义的损失函数进行迭代，通过数值实验检验了方法的适用性和准确性，得出了我们方法可以获得准确的特征值和特征函数逼近的结论。

Sep, 2022