Nov, 2023

基于梯度的双层优化用于多罚项岭回归的矩阵微分计算

PDF
TL;DR本研究探讨了线性回归中带有 L2 正则化的问题，每个输入变量都与一个不同的正则化超参数相关联。通过基于梯度的方法优化这些超参数，通过计算交叉验证准则相对于正则化超参数的梯度，使用矩阵微分学进行解析计算。此外，我们引入了两种针对稀疏模型学习问题的策略，旨在减少过度拟合验证数据的风险。数值示例表明，我们的多超参数正则化方法胜过 LASSO、Ridge 和 Elastic Net 回归。此外，与自动微分相比，梯度的解析计算在计算时间方面更加高效，特别是在处理大量输入变量时。还介绍了应用于过参数化线性参数变化模型的情况。
发现论文，激发创造
  • 加权图拉索隐式微分优化超参数调整

    通过一阶方法解决双层优化问题，推导 Graphical Lasso 解对其正则化超参数的 Jacobi 矩阵，为 Graphical Lasso 的超参数调整提供了框架和算法。

    Jul, 2023

  • 使用近似梯度进行超参数优化

    本文提出了一种算法来优化连续超参数，该方法可以在模型参数完全收敛之前更新超参数，具有全局收敛的充分条件，并在 L2 正则化逻辑回归和核岭回归的正则化常数估计上验证了实证表现。

    Feb, 2016

  • 通过双层学习寻找最优正则化参数

    利用变分正则化方法求解线性反问题时，采用超参数调节正则化项，通过强化先验信息来提高求解结果，核心问题在于如何选择一个合适的正则化参数。本文提出了一个新的条件来更好地描述正则化参数的正性，并验证和探索了这个新条件，同时也探究了这个新条件在小和大维问题上的应用。

    May, 2023

  • 基于正则化的持续学习的统计理论

    我们对基于正则化的连续学习在一系列线性回归任务中进行了统计分析，重点在于不同正则化项如何影响模型性能。我们推导了作为先验估计器的收敛速率，考虑了由矩阵值超参数索引的广义 l2 正则化算法族，包括最小范数估计器和连续岭回归作为特例。随着任务的增加，我们推导了广义 l2 正则化估计器的估计误差的迭代更新公式，从中确定了导致最佳算法的超参数。有趣的是，超参数的选择能够有效平衡前向和后向知识转移的权衡，并适应数据异质性。此外，我们明确地推导出最佳算法的估计误差，它与先验估计器的误差同阶。相比之下，我们的最小范数估计器和连续岭回归的下界显示了它们的子优性。我们的理论分析的副产品是提出了在连续学习中早停和广义 l2 正则化之间的等价性，这可能具有独立的研究价值。最后，我们进行实验以补充我们的理论。

    Jun, 2024

  • 超参数线性回归中的最优加权 L2 正则化

    本文对过参数线性模型中采用广义（加重）岭回归估计系数的预测风险进行了分析，并探讨了在偏好一定系数分布时参数的最优预测，以及过参数现象在主成分回归中的具体表现，进而提出了在无偏估计与最优正则化问题中，加权目标函数方法的优越性。

    Jun, 2020

  • 基于梯度的可扩展连续正则化超参数调整

    本文提出一种基于梯度的方法来调整模型的超参数，使其在对验证成本更有利的情况下进行模型参数梯度和更新，实现对正则化超参数的调优。在 MNIST、SVHN 和 CIFAR-10 数据集上的实验表明，此方法比其他基于梯度的方法成本更低且一致找到了好的超参数值，有望成为神经网络模型训练的有用工具。

    Nov, 2015

  • 学习核的 L2 正则化

    本文研究了使用 L2 正则化学习相同内核类族的内核以及使用 Ridge 回归学习内核的问题。作者得出了优化问题的解决方案，并提出了一种有效的迭代算法来计算该解决方案。此外，该文基于稳定性进行了一项新颖的理论分析，并给出了包含仅有一个加性项 O（pp/m）的正交内核的学习界，当与标准内核 Ridge 回归稳定性界进行比较时。我们的实验结果表明，L1 正则化可以在少量的内核中带来适度的改进，但在大规模情况下的性能降低，而 L2 正则化在大量内核下实现了显著的性能改进。

    May, 2012

  • 学习矩阵的正则化技术

    本文研究了一种将参数组织成矩阵的学习方式，采用矩阵范数来适当地规范参数以实现更复杂的先验知识。基于已知的对偶事实，即函数相对于某些范数是强凸的，当且仅当其共轭函数相对于对偶范数是强平滑的，我们的方法是基于统计学性质来确定合适的正则化函数。通过将这个框架应用于多任务学习、多类学习和核学习中，并推导出新的广义化和失误上限，我们展示了这个方法的潜力。

    Oct, 2009

  • Lasso 惩罚回归的坐标下降算法

    本文研究了基于 lasso 惩罚的回归问题，并提出了两个非常快的算法来估计回归系数，其中一个算法基于循环坐标下降，而另一个基于贪心坐标下降和 Edgeworth 的算法。此外，如果对参数进行分组并对每个组进行惩罚，则可以将现有算法扩展到新领域。

    Mar, 2008

  • 线性神经网络中离散梯度动态的隐式正则化

    本文研究了过参数化模型的离散梯度动态，并证明在使用适当超参数和初始化条件时，该动态可以学习降低秩的回归问题的解。

    Apr, 2019