Apr, 2024

RESSA:通过稀疏跨模态适应修复稀疏视觉语言模型

TL;DR通过罕见模型剪枝和稀疏模型修复解决了资源受限场景下部署大规模Vision-Language Models的挑战,提出了一种稀疏跨模态适应方法(RESSA),其中包括稀疏LoRA技术和交互模态微调,实现了显著的性能增强。