本文主要研究关于使用梯度下降算法在一组定秩半正定矩阵的几何结构下建立回归模型，并且将该算法用于距离函数参数学习问题中，达到了不错的效果。

Jun, 2010

本篇研究论文旨在重新考虑随机算法用于对称半正定矩阵的低秩逼近，通过实证评估了样本抽样和投影方法的性能质量和运行时间，证明了它们的互补性，在相对误差较低前提下表明了不同采样方法之间的重要区别，并为随机抽样和随机投影方法提供最坏情况的理论边界。

Mar, 2013

本文介绍了一种罚矩阵估计过程，旨在同时具有稀疏和低秩的解决方案。我们引入了一个凸混合惩罚，同时涉及 l1 范数和迹范数。我们在链接预测问题中限制了广义误差，并开发了近端下降策略以有效解决优化问题，并在合成和真实数据集上评估了性能。

Jun, 2012

本文研究了套索正则化与奇异值的和（trace norm）正则化在估计低秩矩阵中的应用，并扩展了套索的一些一致性结果以提供必要和充分的条件，以实现具有方块差异的迹范数最小化的秩一致性，同时提供了一种自适应版本，即使不满足非自适应版本的必要条件，也可以实现秩一致性。

Oct, 2007

本文提供了一种将协方差矩阵估计问题转化为回归问题的方法，通过压缩维度，追求稀疏性和构建新的可解释性的矩阵分解，解决了在高维数据情况下使正定约束成本过高的问题。

Feb, 2012

本文提出了一种新的算法，利用 Nystrom 逼近和截断秩的新机制实现了从草图中进行固定秩正半定逼近，并证明了在 Schatten 1 - 范数中可以实现任何预设的相对误差，能够利用输入矩阵的谱衰减，并在计算机实验中表现出比固定秩正半定矩阵逼近的替代技术更好的性能。

Jun, 2017

本文研究用惯性系数约束和 Frobenius 范数限制下的惩罚最小二乘估计的 Schatten-p 准范惩罚项估计法，能够有效地在高维数据下进行矩阵估计。

Dec, 2009

通过矩阵分解问题中的凸松弛方法，结合核范数和分解式正则化，我们分析了一个能得到估计值的一般性定理，该定理可以适用于低秩矩阵、稀疏矩阵及一些可压缩的高维矩阵。我们利用了峰态条件，得到了确定性和随机性噪声矩阵的非渐近性弗罗贝尼乌斯误差界，同时也证实了最小化误差的下限和数值模拟结果的契合度。

Feb, 2011

我们在高斯测量矩阵下研究具有秩 - r 矩阵 M 的隐私保护估计问题。我们从理论上精确刻画了非隐私谱初始化的敏感性，并建立了在 Schatten-q 范数下对 M 进行估计的差分隐私约束下准确的极小极限下界。在方法上，我们引入了一个计算效率高的 DP 初始化算法，样本量为 n≥ ~O (r^2 (d_1 ∨ d_2))。在某些规则条件下，DP 初始化落在包围 M 的局部球内。我们还提出了一个基于 Riemannian 优化的差分隐私算法来估计 M（DP-RGrad），该算法在 DP 初始化和样本量为 n≥ ~O (r (d_1 + d_2)) 时达到接近最优的收敛速率。最后，本文讨论了在迹回归模型下低秩矩阵估计的极小极限下界和上界之间的差距。实验证明，DP-RGrad 给出的估计器在较弱的差分隐私概念下达到了最优的收敛速率。我们分析初始化敏感性的强大技术不需要 r 个非零奇异值之间的特征间隔条件。

Mar, 2024

本文探讨了应用于无惩罚最小二乘回归问题的梯度下降方法的隐式正则化方案，旨在从线性测量的过少的系统中重构出一个稀疏信号，考虑到受限等距假设，我们展示了有一定参数下，预设好的初始化、步长和停机时间能给出一个在统计和计算上都是优的算法，可以在费用与读取 poly-logarithmic 因子的数据一样的代价下，实现极小化率。除了最小化控制，我们还展示了当信噪比足够高时，算法会适应实例的困难度并产生一个与维度无关的率。实现算法的关键是一个逐渐增加的步长方案，根据对真实解的精细估计进行适应。我们通过数值实验验证了我们的发现并将我们的算法与显式 Λ1 惩罚进行了比较。从难实例到容易实例，我们看到我们的算法经历了一个相变，最终与具有真正的支持知识的最小二乘拟合器匹配。

Sep, 2019