BriefGPT.xyz
Ask
alpha
关键词
semantic adaptive tokens
搜索结果 - 1
SDSAT:通过语义自适应标记的推理进行推测解码的加速
通过引入具有语义自适应能力的令牌,提出一种用于大型语言模型(LLM)的加速方案(SDSAT)。该方案通过细调模型和使用训练方法,以及使用新的生成策略,能够在不影响模型准确性的情况下,提高模型生成草稿令牌的准确性,并且在 CodeLlama-
→
PDF
3 months ago
Prev
Next