BriefGPT.xyz
大模型
Ask
alpha
关键词
downstream factuality
搜索结果 - 1
ICML
理解基于事实知识提取的微调
本文研究了 QA 微调数据对下游事实性的影响,证明了微调在不太为人知的事实上时,即使在预训练期间看到了所有事实,其事实性远远不如在众所周知的事实上进行微调,我们的结果揭示了预训练知识和微调数据之间的相互作用,并在为知识密集型任务进行微调时强
→
PDF
14 days ago
Prev
Next