Aug, 2022

生成多模态预训练模型的Prompt调整

TL;DR本文探讨将Prompt调参应用于多模态预训练,使用基于生成模型的统一序列到序列的预训练模型,实现轻量级Prompt调参,并与微调进行比较,通过实验研究发现Prompt调参具有改善鲁棒性的优点,但也存在一些局限性,给出了未来研究的方向。