BriefGPT.xyz
Ask
alpha
关键词
sparse expansion
搜索结果 - 2
稀疏展开和神经元解缠
我们展示了如何通过将 LLM 扩展为稀疏专家的混合体来提高其推理效率,其中每个专家是原始权重的副本,经过一次性修剪以特定输入值簇的方式修剪。我们称这种方法为 ' 稀疏扩展 '。我们展示了对于像 LLama 270B 这样的模型,随着稀疏专家
→
PDF
a month ago
MM
带稀疏约束的线性反问题迭代阈值算法
该研究考虑线性反问题,其中解被假定在任意预先分配的正交基上具有稀疏展开,利用加权 l^p 准则对系数进行正则化,提出了一种迭代算法计算对应的正则化解,并证明了算法的收敛性以及该方法的一些潜在应用。
PDF
21 years ago
Prev
Next