Nov, 2023
TVT: 在小数据集上无需训练的视觉 Transformer 搜索
TVT: Training-Free Vision Transformer Search on Tiny Datasets
Zimian Wei, Hengyue Pan, Lujun Li, Peijie Dong, Zhiliang Tian...
TL;DR本文提出了一种无需训练的视觉 Transformer(ViT)架构搜索方法,通过使用教师模型,利用具有零成本代理的方式搜索更好的 ViT,并在各种小型数据集和搜索空间上展开了大量实验,证明了该方法优于现有的无训练搜索方法。