BriefGPT.xyz
Ask
alpha
关键词
batched setting
搜索结果 - 1
BASS: 批处理优化注意力的推测采样
该论文描述了一种批处理的推测解码系统,在多序列生成延迟方面达到了最新的技术水平,并在时间预算内展示出卓越的 GPU 利用率和生成质量。
PDF
2 months ago
Prev
Next