sparsity level | BriefGPT - AI 论文速递

关键词sparsity level

搜索结果 - 6

FOCIL：通过训练随机修剪的稀疏专家进行在线课堂增量学习的微调和冻结
基于在线继续学习的类别增量学习 (Class incremental learning, CIL) 旨在从数据流中仅使用每个数据点进行一次训练，从一系列新类别中获得知识。本文提出了一种名为 FOCIL 的新的在线 CIL 方法，它通过为每个
PDF4 months ago
动态稀疏训练下的持续学习：探索有效模型更新算法
连续学习是指智能系统在尽可能少的计算开销下，从数据流中顺序获取和保留知识的能力。本研究通过对 Dynamic Sparse Training (DST) 的不同组成部分在连续学习范式下的影响进行了首次实证研究，以填补重要的研究空白并为连续学
PDF10 months ago
EMNLP基于互信息的逐层模型剪枝
该论文提出的修剪策略通过从更全局的角度运作，基于顶层训练信号逐层传播全局信号，从而在相同稀疏度水平下获得更高的性能和更大的加速，避免了权重基础剪枝技术中的内存访问不规则性。
PDF3 years ago
MM高维回归假设检验的几乎最优样本大小
针对高维线性回归模型的参数拟合问题，考虑基于 Lasso 惩罚的最小二乘估计器的置信区间和 p 值的构造及去偏的版本，进一步在随机设计模型的情形下进行研究，并提出了更优的平均检测功率的分析结果。
PDF11 years ago
RIP 下的正交匹配追踪稀疏恢复
本文解析了正交匹配追踪算法，表明只需要 O (k̅ln d) 个随机投影，即可恢复一 k̅- 疏松信号的 2 - 范数，从而对于压缩感知应用，该方法比之前的方法所需的随机投影数量 O (k̅²ln d) 更小。
PDF14 years ago
带交叉验证的压缩感知
本文研究如何通过 Compressed Sensing 的解码算法，基于少量的测量（如信号中的采样点），恢复一个高维向量数据的信息，并且探讨了其稀疏性水平如何影响该方法的质量保证。
PDF16 years ago