least-squares regression | BriefGPT

关键词least-squares regression

搜索结果 - 7

通过多次迭代在复杂学习问题上使用随机梯度下降的统计最优性
本篇论文研究了随机梯度下降算法在多次迭代时对于最小二乘回归的预测能力，理论分析表明虽然单次迭代可以实现统计上的最优，但对于难题来说，多次迭代可以实现统计上的最优。我们的研究基于无限维模型，关注特征协方差矩阵的特征值衰减和最优预测器的复杂度等
PDF6 years ago
正则化最小二乘算法的 Sobolev 范数学习率
本文针对最小二乘回归中的 $L_2$-norms，将其扩展至更强的 norms，而无需将回归函数包含在假设空间中。特别地，在用作假设空间的 Sobolev 重现核希尔伯特空间的特殊情况下，这些更强的 norms 与所使用的 Sobolev
PDF7 years ago
常值步长最小均方：偏差 - 方差权衡与最优抽样分布
本文考虑了最小二乘回归问题，提出了平均恒定步长随机梯度下降（也称最小均方误差）的性能的详细渐近分析。在强凸情况下，我们提供了一个高度渐近展开式。我们的分析提供了对随机逼近算法的新见解。
PDF10 years ago
最小二乘多项式混沌回归的连贯性导向采样及收敛分析
该研究提出了一种基于蒙特卡罗方法的多项式混沌展开的独立采样方法，利用一致性参数和重要性采样策略保证了快速且精确地恢复多项式展开系数以及用于不确定性量化的高维随机系统建模的解析性质。
PDF10 years ago
大步长非参数随机逼近
本文研究了基于再生核 Hilbert 空间（RKHS）框架下的随机设计最小二乘回归问题，其中采用平均非正则化最小均方算法得到了最优收敛速率。
PDF10 years ago
输入稀疏时间内的低秩逼近和回归
本文提出了一种新的稀疏嵌入矩阵，通过使用这种矩阵，可以实现超约束最小二乘回归、低秩逼近、所有梁角得分的近似和 $l_p$- 回归问题的 $(1+\varepsilon)$- 近似，其时间复杂度的主导项是 $O (\nnz (A))$ 或 $
PDF12 years ago
最小二乘回归罚项的数据驱动校准
本文提出了一种完全基于数据的最小惩罚量校准算法，适用于最小二乘回归框架，可以用于惩罚最小二乘回归径向基函数网络。
PDF16 years ago