BriefGPT.xyz
Ask
alpha
关键词
self-resurrecting activation unit
搜索结果 - 1
VisualGPT:预训练语言模型数据有效适配图像字幕生成
本研究提出了 VisualGPT,一种数据高效的图像字幕模型,它利用了预先训练的语言模型中获得的语言知识,使用自重生编码器 - 解码器注意机制在少量领域训练数据上快速适应预训练的语言模型,并通过稀疏激活单元减少了零梯度的影响,我们在 MSC
→
PDF
3 years ago
Prev
Next