BriefGPT.xyz
Ask
alpha
关键词
perplexity metrics
搜索结果 - 1
相同任务,更多令牌:输入长度对大型语言模型推理性能的影响
本研究探讨了扩展输入长度对大型语言模型 (LLMs) 能力的影响。通过引入一种新型问答推理框架,重点评估输入长度对性能的影响。结果显示,在远低于技术最大值的输入长度时,LLMs 的推理性能显著下降,而且这种降级趋势在数据集的每个版本中都存在
→
PDF
5 months ago
Prev
Next