本文提出了一种新的、称为弹性调整的fine-tuning方式，可以用于处理不同于预训练源的、但与其语义相近的实际数据。通过实验证明，相较于传统做法，在许多领域转移情况中调整中间或早期单元的效果更好。

Aug, 2020

该论文提出了基于prompt调节（Prompt tuning，Pro-tuning）的方法来替代fine-tuning，适应于各种冻结视觉模型到不同的下游视觉任务。实验结果表明，这种方法在图像分类和密集预测任务方面表现优于fine-tuning。

Jul, 2022

本研究提出一个新的模型Prompt-Adapter，将预训练的提示调整与高效自适应网络相结合，用于高效的视觉-语言模型适应过程，超过公共数据集中少量数据情况下的现有方法，在此基础上，探讨了多任务预训练初始化与 prompt tuning 相结合的思想。

Mar, 2023

本文调查了最近的大量工作，提供现有工作和模型的系统性和全面性概述，将最近的视觉微调技术分为五组：提示微调，适配器微调，参数微调和重新映射微调，并提供前瞻性预训练和视觉微调中的各种交互的激动人心的研究方向。

May, 2023

透過將輕量級適配器插入凍結的預訓練模型並使用低精度量化方法以減少存儲空間，本研究發現低精度的適配器達到與高精度適配器相當的性能，且1位精度就足夠。

Jul, 2023

通过提出混合稀疏适配器（MoSA）作为一种新颖的适配器调整方法，旨在充分发挥每个适配器参数的潜力，本研究对一系列27个视觉任务进行了广泛实验证明，MoSA始终比其他适配器调整方法和基准线方法表现更好，并在低资源和多任务设置的两个具有挑战性的场景中展现了令人满意的结果。

Dec, 2023

局部微调可以同时提高效率和准确性，选取适合的层对局部微调至关重要。通过引入新的微调角度度量，可以灵活适应各种场景用于更实用的局部微调，同时提高模型性能和泛化能力，减少微调参数。实验证明了局部微调的巨大潜力。

Dec, 2023

Adapter-X是一种新的框架，通过参数共享和动态分配，以及引入特定设计来提高适应性，在更少的参数下优于传统的微调方法。

Jun, 2024

MIET（极简交互边缘调优）通过使用轻量级的基于注意力机制的适配器网络，利用预训练模型的中间特征的加和实现了信息传递效率、参数效率、计算和内存效率，同时在各种视觉适应测试中展示出有竞争力的结果。

Jun, 2024

本研究解决了现有视觉delta微调方法在对象检测和分割等挑战性任务中无法超越全微调的局限性。我们提出了一种新颖的多认知视觉适配器（Mona）微调方法，该方法通过引入多个视觉友好的过滤器和缩放归一化层，显著提升了视觉信号处理能力。实验结果证明，Mona在多项视觉任务中性能超越全微调，展示了其在预训练模型利用方面的优势。

Aug, 2024