sparsity constraint | BriefGPT

关键词sparsity constraint

搜索结果 - 9

一位压缩感知的通信高效去中心化联邦学习
本文提出了一种基于不精确的交替方向法方法的新算法，在分散节点之间训练共享模型的过程中实现了稀疏约束、通信效率和计算效率的改进。
PDF10 months ago
使用离散潜变量学习表征的稀疏性
本文提出了一种称为 SDLGM 的稀疏深度潜在生成模型，可以通过限制表征的非零特征的数量实现数据的稀疏学习，其生成的稀疏表示可以根据观察本身调整，并使用 Gumbel-Softmax 分布进行两步采样生成，采取蒙特卡罗梯度估计器的变分方法进
PDFa year ago
CVPR视觉 Transformer 瘦身：连续优化空间中的多维度搜索
本文介绍了一种名为 ViT-Slim 的视觉转换器压缩框架，基于可学习和统一的 l1 稀疏性约束搜索多个维度的子结构，通过预算阈值得到压缩后的模型，试验结果表明，ViT-Slim 可以在保持较高图像分类准确率的同时，将参数和 FLOP 压缩
PDF3 years ago
ISTA-NAS：通过稀疏编码实现高效、一致的神经架构搜索
通过稀疏编码的方法，进行可微的搜索及网络结构恢复，以满足稀疏性约束，提高了神经结构搜索的效率和性能。
PDF4 years ago
ECCV从拓扑学角度学习神经网络的连接性
本文提出了一种基于拓扑结构优化神经网络连接性的方法，通过为边分配可学习参数并施加稀疏约束，更聚焦有关键作用的连接，并获得在图像分类和目标检测等任务中的显著改善。
PDF4 years ago
ICML自适应正则化硬阈值稀疏凸优化
本文提出了适应性正则化硬阈值算法（ARHT）和置换正交匹配追踪算法（OMPR）用于优化一个凸函数的目标，同时在稀疏约束下，使用受限制条件数来分析各种算法的稀疏性保证，进一步研究了基于约束等距性的压缩感知。
PDF4 years ago
ICLRDSD：用于深度神经网络的稠密 - 稀疏 - 稠密训练
通过提出 DSD 训练流程，即 Dense-Sparse-Dense（DSD）的训练方法，对深度神经网络进行正则化，以实现更好的优化性能；实验证明，DSD 训练可以提高各种神经网络模型（如 CNN、RNN 和 LSTM）在图像分类、标题生成
PDF8 years ago
MM二元融合压缩感知：一比特压缩感知与群稀疏相遇
提出了一种新的方法，称为二元融合压缩感知（BFCS），用于从 1 比特压缩测量中恢复稀疏的分段平滑信号。与以前的二元迭代硬阈值（BIHT）算法类似，该算法在稀疏约束的基础上，还将恢复的信号的总变化程度上限约束。实验表明，相比于 BIHT，所
PDF10 years ago
基于 Correntropy 度量的鲁棒高光谱解混合
本文提出了一种基于神经元的半二次优化技术的鲁棒性第一个非监督高光谱分离模型，该模型针对纯度未知的情况下如何准确进行分离和清晰谱带噪声的情况下如何去噪，通过引入基于神经元的指标和数据稀疏等约束条件来解决这些问题.
PDF11 years ago