- 优化的最小二乘法用于精确矩形拟合
本研究提出了一种基于最小二乘法的矩形拟合方法，采用连续的适应性函数来准确逼近单位矩形，并使用模拟数据和真实数据对该方法进行比较，结果表明该方法表现优于已有方法，而且能够精确拟合真实数据。
- 使用线性回归迭代训练神经网络
本文提出了一种基于线性回归的方法来学习神经网络的权重和偏置，与标准的基于梯度的反向传播相比更为快速、稳定，但仅限于简单前馈神经网络、标量回归问题和可逆激活函数。
- 通过非凸迭代重新加权最小二乘法恢复同时结构化数据
提出一种新的算法来恢复数据，该数据符合多个异构低维结构，并专注于同时为行稀疏和低秩的数据矩阵，该算法能够利用两种结构。
- 可微凸优化器的参数化一阶元学习
通过提出一个元学习框架，在内循环优化步骤中使用可微分凸优化（DCO），我们概括了一个广泛的现有更新规则家族，并演示了可一步优化一系列线性最小二乘问题的理论吸引力。
- 基于杠杆的低秩张量分解实用采样
本文研究稀疏张量的低秩正交多项式分解，提出了使用杠杆得分来选择子集行数的草图方法，并提供了一个实际的解决方案，以提高高杠杆得分行的采样和理论界限。
- 非刚性结构运动加权核范数的精确优化
本文论述了如何在数据中拟合给定秩的矩阵以及如何比一阶梯度方法更多效地处理特殊矩阵约束，如加权核范数的惩罚，并在多项结构运动问题上实现优于现有方法的实验结果。
- 神经网络的最小二乘二值化
本文提出了一种新的二进制量化方式，使用该方式可以提高神经网络的推断效率，并在 ImageNet 数据集上进行了实验验证。
- 弱特征的双下降模型
本文提出了 “双下降” 风险曲线，用于定性描述可变参数机器学习模型的样本外预测准确性。通过对最小二乘 / 最小规范预测器的两个简单数据模型进行精确的数学分析，显示出风险在特征数 $p$ 接近样本数 $n$ 时达到峰值，但随着 $p$ 超过 - 使用 3D 生成对抗网络实现脑部 MRI 超分辨率
该研究使用对抗学习方法，采用基于 SRGAN 模型的 3D 卷积生成高分辨率 MRI 扫描图像，结合最小二乘法的对抗损失和基于均方误差和图像梯度的内容项提高生成图像的质量，并在上采样阶段探索不同的解决方案，具有潜在的 3D 医学成像超分辨率 - MM马尔科夫链理论方法描述随机梯度下降（针对最小二乘法）的极小极大优化特性
本文针对最小二乘法，提供了一个简化的证明，证明了随机梯度下降法（SGD）的（迭代平均）统计极小值最优性，并通过分析 SGD 作为随机过程、对该过程的稳态协方差矩阵进行尖锐刻画等方式进行了证明。有限速率的最优性刻画捕获了常数因子，并解决了模型 - 加密加速最小二乘回归
本文中，我们提出了详细的分析方法，并证明了使用全同态加密方案下的数据对最小二乘和惩罚岭回归模型进行拟合的可行性，其中梯度下降算法在加密计算速度方面表现优异，并且理论结果也被证明可以确保解密的正确性，从而展示了使用加密数据近似传统统计回归方法 - 加权采样的批次随机梯度下降
通过计算分布批次的随机梯度下降，相比单纯的分步抽样或者有样本权重分配的随机梯度下降，可以得到可观的优化速度。我们为了最小二乘和铰链损失问题提出了几种计算有效的近似权重和计算方案。这篇论文的分析和实验表明我们的方法可以获得重大的优势。
- 自适应伯努利概率的点对比较估计器
该论文研究了一种灵活的框架下的成对比较数据聚合方法，使用强随机传递性（SST）引入了一个适应性指数来估计未来比较预测结果的概率，并探讨了不同算法的适应性指数。
- MM草图作为数值线性代数工具
本文综述了数值线性代数算法领域的最新进展，着重介绍了利用线性草图技术来进行矩阵压缩的方法，以加速解决原问题。文章讨论了最小二乘、鲁棒回归、低秩逼近和图稀疏化的问题，并优化了这些问题的不同变体。最后，文章探讨了草图方法的局限性。
- 压缩感知中偏差分析
分析基 Pursuit 信号恢复中的波动干扰，即数学模型中的加性噪声与乘性噪声，结果显示在合适的条件下，恢复信号的稳定性受观测噪声水平的限制，同时，在无加性噪声的情况下，恢复的误差是相对扰动的线性函数，并且准确性与最小二乘技术的最佳重建处于 - 伯恩斯坦基下的多项式最小二乘拟合
该论文研究了使用 Bernstein 基替代常规单项式基的多项式回归问题，使用 QR 分解求解系数矩阵，并通过数值实验验证了该方法的性能。