BriefGPT.xyz
大模型
Ask
alpha
关键词
entropy-based regularization
搜索结果 - 1
LIMoE 模型在多模态对比学习中的应用:语言 - 图像专家混合
提出了一种用于多模态学习的稀疏专家模型 LIMoE,该模型接受图像和文本,使用对比损失进行训练,并提出一种熵基准的正则化方案。LIMoE 在多个尺度上展示出优异的性能,并能够实现零样本 ImageNet 准确度的显著提高。
PDF
2 years ago
Prev
Next