Mar, 2024
增强 Prompt 调参视觉 Transformer 的适应性
ADAPT to Robustify Prompt Tuning Vision Transformers
Masih Eskandar, Tooba Imtiaz, Zifeng Wang, Jennifer Dy
TL;DR使用 ADAPT 框架对 Vision Transformers 进行参数高效提示调优,实现对下游任务的鲁棒性训练,从而在只调优了约 1% 的参数数量的情况下,实现与完全模型微调相当的鲁棒准确率(约 40%).