该研究提出了一种无需参数的基准自动增强方法TrivialAugment，只对每个图像应用单一的增强，并通过实验比较和分析其表现及其对于算法表现的重要需求，同时提出最佳实践以供参考。

Mar, 2021

本文通过一系列超过1.8k个控制实验，对少样本图像分类的PEFT（参数效率微调）方法进行了大规模、实验一致的经验分析，发现只微调层归一化参数及学习一组每个注意力矩阵的缩放参数的方法，成为Vision Transformer预训练模型最强大的微调方法。此外，对于自监督ViTs，我们发现仅学习每个注意力矩阵的缩放参数和一个Domain-residual adapter（DRA）模块即可实现无与伦比的性能表现，而模型可参数化程度更高。

Apr, 2023

使用DiffTPT方法通过利用预训练扩散模型生成多样且信息丰富的新数据，结合常规方法和预训练稳定扩散的增强数据，选择与单个测试样本更相似的生成数据以提高预测准确度，证明DiffTPT方法能够提高零样本准确率。

Aug, 2023

在视觉转换器（ViT）的背景下，最近的研究进展揭示了一些张量分解参数有效微调方法（如LoRA和FacT）的有效性。然而，这些方法在解决内部和跨层冗余的挑战方面存在问题。为了解决这个问题，我们引入了EFfective Factor-Tuning（EFFT），这是一种简单而有效的微调方法。在VTAB-1K数据集中，我们的EFFT超过了所有基准，以仅有0.28％的参数的全面微调中取得了75.9％的top-1准确率的分类平均。考虑到EFFT的简洁性和有效性，它具有作为基础基准的潜力。代码和模型现在可以在指定的链接中获得。

Nov, 2023

局部微调可以同时提高效率和准确性，选取适合的层对局部微调至关重要。通过引入新的微调角度度量，可以灵活适应各种场景用于更实用的局部微调，同时提高模型性能和泛化能力，减少微调参数。实验证明了局部微调的巨大潜力。

Dec, 2023

规模化预训练视觉模型（PVMs）在各种下游视觉任务中表现出很大的适应性。然而，随着最先进的PVMs达到数十亿甚至数万亿参数，传统的完全微调范式变得难以持续，因为其需要巨大的计算和存储需求。为了应对这一挑战，研究人员正在探索参数高效的微调（PEFT），旨在通过最小的参数修改超越完全微调的性能。本调查提供了对视觉PEFT的综合概述和未来方向，对最新的进展进行了系统回顾。首先，我们提供了PEFT的正式定义，并讨论了模型预训练方法。然后，我们将现有方法分为三类：基于添加的、基于部分的和基于统一的。最后，我们介绍了常用的数据集和应用，并提出了未来研究的潜在挑战。所有相关资源可以在该链接中找到。

Feb, 2024

通过稀疏化混合专家方法，稀疏元调优成功地提高了视觉基础模型的迁移能力，并在零阶和基于梯度的适应环境中建立了新的最先进的结果。

Mar, 2024

Sparse-Tuning是一种新的调优范式，通过稀疏保存信息标记并合并冗余标记，提高对前景的关注并降低背景区域的计算成本，实现了对预训练的ViT模型进行高效的微调和推断，同时具备了现有方法无法满足的GPU内存和时间效率要求。

May, 2024

针对视觉基础模型的少样本调优方面的类增量学习，我们提出了CoACT方法，通过异步对比调优、控制微调和一致性引导增量调优三个组成部分，有效提升了模型性能和鲁棒性。

May, 2024

通过使用ExPLoRA技术，在对卫星图像进行迁移学习时，只使用很少的参数数量，在无监督的预训练阶段只解冻1-2个预训练的ViT块和所有归一化层，然后通过LoRA微调所有其他层，最后只通过LoRA在新域上对模型进行微调，获得了基于先前完全训练和微调的ViTs的最先进结果。

Jun, 2024