BriefGPT.xyz
大模型
Ask
alpha
关键词
small lms
搜索结果 - 2
用较少的令牌预训练小型基础语言模型
我们研究了使用继承和训练的简单方法来构建小型基础语言模型的有效性,并通过实验证明其在各种设置中的功效。
PDF
3 months ago
知识增强的推理蒸馏:面向知识密集型任务的小型语言模型
提出了知识增强推理提炼(KARD)这一新颖的方法,以从外部知识库检索的增强知识 fine-tune 小型 LM,来生成 rationale,并且进一步提出了神经重新排序器以获取与理性产生相关的文档。该方法在知识密集型推理数据集上显著提高了小
→
PDF
a year ago
Prev
Next