Sep, 2022
预训练模型合作提高 Few-shot 学习性能
Collaboration of Pre-trained Models Makes Better Few-shot Learner
Renrui Zhang, Bohao Li, Wei Zhang, Hao Dong, Hongsheng Li...
TL;DR本文提出 CoMo 模型,利用预训练模型中的知识嵌入到 few-shot 分类中,包括 CLIP 的语言对比知识、DINO 的视觉对比知识和 DALL-E 的语言生成知识,通过学习多种知识方法,本文展示了在 11 个数据集上的优越性和泛化能力。