BriefGPT.xyz
Ask
alpha
关键词
phi-3
搜索结果 - 1
S3D:一种用于低内存 GPU 的简单且具有成本效益的自我推测解码方案
Skippy Simultaneous Speculative Decoding (S3D) 是一种成本有效、基于同时多令牌解码和中间层跳跃的自我推测 SD 方法,与最近的有效开源 SD 系统相比,它在性能 - 内存比上取得了最佳表现,而且
→
PDF
a month ago
Prev
Next