BriefGPT.xyz
大模型
Ask
alpha
关键词
deep model compression
搜索结果 - 4
ACL
深度模型压缩也有助于模型捕捉歧义
本研究提出了一种基于深度模型压缩的新方法，解决了自然语言理解中标记不确定性的问题，并发现了在低层中更合理表示的关系，这有助于减小模型的规模并改善可用性。
PDF
a year ago
彩票票保留权重相关性：是可取还是不可取？
通过研究神经网络模型剪枝，提出了 “Lottery Ticket Hypothesis”，发现神经网络的初始化和学习率等条件会影响最优子网络的提取，同时提出 “Pruning & Fine-tuning” 方法来优化剪枝和训练，实验证明该方
→
PDF
3 years ago
具有对抗性鲁棒性的模型压缩：一个统一优化框架
通过 Adversarially Trained Model Compression (ATMC) 框架，将剪枝、因子分解和量化等现有压缩方法整合到一个受约束的优化公式中，实现了在保持模型准确性和鲁棒性的前提下，获得更好的模型尺寸和准确性折
→
PDF
5 years ago
深度神经网络的鉴别感知通道剪枝
介绍了一种有效的基于鉴别力的通道剪枝方法，利用额外的损失函数增加中间层的鉴别力并根据重构误差和额外损失函数选择最具鉴别力的通道，并提出了一种迭代贪心算法来优化参数和通道选择。对类似于 ILSVRC-12 的测试数据，使用该算法对 ResNe
→
PDF
6 years ago
Prev
Next