本文介绍了针对高维度问题的普通最小二乘（OLS）法无法适用的问题，我们提出了一种基于岭回归的 OLS 的广义版本，并提出了两种新的三步算法，这些算法在直观上易于理解，计算上易于高效实现，并且在模型选择方面有较强的理论吸引力。通过模拟和数据分析中与基于罚项的方法相比较的数值实验，这些算法的潜力得到了证明。
Jun, 2015
通过提供 OLS 插值器的高维代数和统计结果，我们对其一般化能力和因果推断具有实质性影响进行了研究，此外，我们还在高斯 - 马尔可夫模型下提出了统计结果和方差估计的分析。
Sep, 2023
我们研究了差分隐私（DP）在核心机器学习问题线性最小二乘（OLS）上的应用，发现了 ALS 算法作为 OLS 问题的随机化解决方案能够提供更好的隐私和效用平衡，同时我们提供了 ALS 算法和 OLS 中标准高斯机制的第一个紧密差分隐私分析。
通过使用差分隐私，我们在小型数据集的情况下训练针对经济研究的简单线性回归的算法，在不牺牲数据隐私的情况下获得较高的性能。
Jul, 2020
本文研究基于指数机制的线性回归算法，通过选择 Tukey 深度高的模型，克服了现有差分隐私解决方案中数据边界和超参数设定的困难，所得结果在丰富数据设置下表现优异。
Aug, 2022
我们提出了一个针对普通最小二乘问题的样本和时间高效的差分隐私算法，误差线性依赖于维度并且与 $X^ op X$ 的条件数无关，其中 $X$ 是设计矩阵。我们的算法具有接近最优的准确性保证，适用于具有有限统计杠杆率和有界残差的任何数据集。
Apr, 2024
本文提出了一种构建无偏估计器的普遍方法，使用自适应线性估计方程的思想，并建立渐近正常性的理论保证，以及实现接近最优渐近方差的讨论。
Jul, 2023
针对在普通最小二乘法回归中预测的偏差问题，我们提出了一个更好的估算方法 —— 基于截断误差差值的极小 - 极大框架，其期望和差距都为 d/n。
Oct, 2010
这篇研究论文主要讨论了偏最小二乘（PLS）方法及其在标量回归问题中的应用，分析了由 PLS 得到的回归系数向量与普通最小二乘（OLS）方法得到的回归系数向量之间的距离，提供了该距离的上界并展示了其与回归因子协方差矩阵特征值分组数之间的关系。
Dec, 2023
该研究证明了最小二乘（OLS）估算器在从单个观察轨迹中识别线性动态系统方面达到了几乎最小化最优性能。
Feb, 2018