BriefGPT.xyz
大模型
Ask
alpha
关键词
intermediate training
搜索结果 - 2
差分蕴涵用于参数高效的少样本学习
本论文提出了一种新的技术,通过采用中间训练和可区分化优化的方式,在限制模型参数时实现 few-shot 学习的参数效率。作者通过实验量化了参数效率和性能在 few-shot 领域的权衡,并提出了一个简单的模型无关方法。
PDF
a year ago
EMNLP
选择哪些高效的中间任务进行预训练?
通过 adapter fine-tuning 方法,有效地和高效地获取并选取 NLP 任务中的中间任务,从而在目标任务上实现更好的效果。
PDF
3 years ago
Prev
Next