Dec, 2022
利用预训练语言模型的快速调优竞赛解决方案技术报告
Technical Report -- Competition Solution for Prompt Tuning using Pretrained Language Model
Jiang-Long Song, Wu-He Zou, Feng Li, Xiao-Lei Qin, Wei-Dong Zhang
TL;DR本报告是关于在预训练语言模型中应用黑盒调整以进行 few-shot 学习的研究。 我们提出了基于 LMaaS 场景的解决方案,包括多标签词、P0 选择、滚动更新策略、MLP 分类器的多任务损失以及使用集成方法进一步提高广义化能力。 最后,我们提出了有关 SNLI 数据集对结果影响的问题,以及我们对比赛的担忧。