BriefGPT.xyz
Ask
alpha
关键词
concept-aware training
搜索结果 - 2
概念感知数据构建改善语言模型的上下文学习
通过概念感知训练框架构建训练场景,提高预训练变换器在上下文学习过程中利用新的潜在概念的能力,并使这种能力使得上下文学习对先前模型的功能性缺陷更具鲁棒性,相对于传统指令优化,在大多数新任务上具有更好的效果,并且训练数据规模相当的情况下,表现与
→
PDF
4 months ago
概念感知训练提高语言模型的上下文学习能力
文中介绍了一种名为 CoAT 的优化方法,利用模拟训练数据来帮助语言模型更好的利用其背景知识。使用 CoAT 训练的 In-context learners 性能表现良好,达到了在多任务训练中更大规模模型的性能水平。
PDF
a year ago
Prev
Next