sparse solutions | BriefGPT

关键词sparse solutions

搜索结果 - 14

局部规则重构：结构稀疏和德劳内三角剖分
本研究通过具有局部重构性质的最小二乘回归问题，寻找线性表示学习中的稀疏解，利用 Delaunay 三角剖分构造出的结构隐式地解释了稀疏性。
PDF2 months ago
利用连续时间理解对角线线性网络训练中的动量
通过分析动量梯度下降的连续时间方法，我们研究了动量对优化轨迹的影响，并得到了唯一定义优化路径和提供简单加速规则的内在量 λ = γ / (1 - β)²。通过在超参数化回归环境中训练 2 层对角线线性网络，我们表征了隐式正则化问题中的恢复解
PDF4 months ago
不平衡最优传输的安全筛查
本文介绍了一种方法，利用安全筛选技术来加速不平衡最优输运问题的优化过程，通过预先识别和消除稀疏解中的零元素，演示了应用安全筛选到带有 $l_2$- 惩罚和 KL - 惩罚的 UOT 问题的可行性，并考虑了双重问题的局部强凸性。考虑到 UOT
PDFa year ago
通过权重归一化实现强大的隐式正则化
本文研究了使用梯度下降与权重归一化进行训练的经过参数化的模型所具有的内在偏向性，并证明了权重归一化的方法可以在对角线性模型中具有稀疏解的内在偏向性。
PDFa year ago
稀疏私有 LASSO 逻辑回归
本文提出了一种稀疏逻辑回归的差分隐私方法，该方法利用非隐私 LASSO 逻辑回归模型确定使用的非零系数的数量来进行最终的模型选择，从而保持硬零，实验结果表明该方法在合成和真实数据集上表现良好。
PDFa year ago
ICML稀疏核主成分分析用于异常检测
本文提出一种基于弹性网规则表达式的核特征空间中 SKPCA 方法，并对其有效性进行了数学分析。采用基于 RBF 核的 SKPCA 方法进行离群点检测，并在 5 个真实数据集上进行测试，证明了使用仅 4％或更少的主成分即可达到与 KPCA 相
PDF6 years ago
分段平面嵌入图像分割
本文提出了一种新的多维非线性嵌入 ——Piecewise Flat Embedding (PFE)，能够对图像进行分割，并且在四个主要基准数据集上的实验结果表明，采用该嵌入的分割算法显著提高了分割结果。
PDF6 years ago
ICML变分 Dropout 稀疏深度神经网络
本研究采用变分丢失技术，提供了一种优雅的高斯丢失的贝叶斯解释，将其扩展到丢失速率无界的情况，提出一种减少梯度估计器方差的方法，并在每个权重的情况下报告第一个实验结果。有趣的是，在完全连接和卷积层中都导致极度稀疏的解决方案。这种效应类似于实证
PDF7 years ago
如何从平滑信号中学习图形
本文提出了一种基于平滑信号的图形结构学习框架，可以通过学习边权重和已知顶点位置的图，实现自然的稀疏解，且提出的方法在许多场景下表现出更好的性能。
PDF8 years ago
学习迭代阈值算法的最优非线性函数
本论文提出了一种使用神经网络和误差反向传播算法学习最优阈值函数的数据驱动迭代收缩阈值算法（ISTA），并在稀疏统计信号上进行模拟实验，证明了这种算法在估计质量上的潜在提升。
PDF9 years ago
基于现代优化视角的最佳子集选择
本文提出了一种基于混合整数规划的方法来解决最佳子集选择问题，旨在通过离散优化方法扩展现有的一阶连续优化算法，为线性回归提供更高质量的可行解，并延伸到最小绝对偏差损失函数，最终实验证明本文的方法在求解 $n$ 为 1000s 和 $p$ 为
PDF9 years ago
稀疏约束优化的梯度硬阈值追踪
本文针对稀疏受限凸优化问题，将 Hard Thresholding Pursuit 方法从压缩感知推广，证明了该方法在收敛速度和参数估计准确性方面具有类似于 HTP 的强大保证，并在稀疏逻辑回归和稀疏精度矩阵估计任务中的数值实验证明了其优越
PDF11 years ago
一种表征 LASSO 算法性能的框架
本文研究了在噪声下求解稀疏解的欠定线性方程组问题，提出了一种有效的 LASSO 算法分析机制，并考虑了其在统计学背景下的精度。
PDF11 years ago
压缩感知中优化调节的迭代重建算法
本研究中，我们对寻找欠定线性方程组的稀疏解的两个重要算法进行了广泛的计算实验，并进行了最优参数选择。我们的优化程序在 sparselab.stanford.edu 上提供，并且在没有用户调整的情况下运行 “开箱即用”。我们通过我们的随机欠定
PDF15 years ago