l1 regularization | BriefGPT

关键词l1 regularization

搜索结果 - 9

使用逻辑回归进行特征选择的实验
在监督式机器学习中，特征选择扮演着非常重要的角色，可以通过计算时间和精确度等指标来提高可解释性和性能。本文研究了一种基于逻辑回归（LR）的著名 L1 和 L2 正则化策略的特征选择方法，并综合了 L1 和 L2 正则化的发现，在 CIC-I
PDF5 months ago
稀疏双谷操作
该论文研究了双下降现象在两层神经网络中的作用，重点关注了 L1 正则化和表示维度的作用。研究探讨了稀疏双下降这一替代的双下降现象，并强调了模型复杂度、稀疏性和泛化之间的复杂关系，建议进一步研究更多样化的模型和数据集。这些发现有助于深入理解神
PDF6 months ago
高斯图模型的条件矩阵流
该研究提出了一种变分推断方法，通过定义于对称正定矩阵空间上的矩阵变分流来逼近高斯图模型的后验分布，对任意正则化参数 λ 和任意 l_p (伪 -) 范数，包括非凸的 l1 伪范数进行联合训练，从而获得一个模型，并可以恢复频率主义的解路径。
PDFa year ago
SIGIRSPLADE 模型效率研究
本文主要聚焦于基于预训练语言模型的信息检索系统，提出了一系列技术包括 L1 正则化、分离文档 / 查询编码器、使用更快速的查询编码器等方法，以提高 SPLADE 模型的效率并在领域内数据上提高性能指标。在相同计算限制下，我们提出的神经模型实
PDF2 years ago
通过可融合残差卷积块进行深度神经网络的分层剪枝
本文提出了一种基于 ResConv 和 L1 正则的简单的层剪枝方法，该方法在不需要重新训练的情况下，在各种数据集上实现了良好的压缩和加速表现。
PDF4 years ago
图形套索与阈值化：等效性和封闭形式的解决方案
本文比较了 Graphical Lasso 技术与数值便宜的启发式方法，在构建两个类型的矩阵的基础上，当阈值样本协方差矩阵是符号一致、反转一致的同时，且最大阈值和最小阈值之间的差距不是太小的情况下，阈值和 GL 技术等效，并且建立在此基础
PDF7 years ago
Vote3Deep：使用高效卷积神经网络快速检测三维点云中的物体
本文提出了一种在三维点云中有效检测对象的方法，使用卷积神经网络并利用稀疏性，提出了基于特征中心投票方案的卷积层和 L1 正则化，实现了高效的大规模三维数据处理，并在 KITTI 物体检测基准测试中表现出优异的成果。
PDF8 years ago
NIPS稀疏线性动力系统及其在多元临床时间序列中的应用
本研究提出了一种在最大后验 (MAP) 框架下，采用基于一般化梯度下降法的期望最大化 (EM) 算法，对线性动态系统的转移矩阵进行 L1 正则化来减轻隐藏状态数量选择问题的方法，这种 Sparse Linear Dynamical Syst
PDF11 years ago
用于监督序列标注的稀疏条件随机场的高效学习
本研究采用条件随机场（CRF）来解决监督序列标注的问题，并探讨了如何通过 L1 惩罚实现 CRFs 的高效特征选择，结果表明该方法可以显著加速训练和加标签的速度，并且可以处理更高维度的模型。
PDF15 years ago