BriefGPT.xyz
Ask
alpha
关键词
gemm based feed forward networks
搜索结果 - 1
ICML
LookupFFN: 让 Transformer 在 CPU 推理中计算更轻巧
通过研究 GEMM 基于前馈网络(FFN)的模块,我们提出了一种替代方案(称之为 LookupFFN),将大多数关键操作转化为内存查找,以减少所需的 FLOP,从而在 RoBERTa 语言模型预训练中实现类似性能。
PDF
4 months ago
Prev
Next