Aug, 2024

视觉变换器的自监督学习机制综述

TL;DR本研究解决了深度学习模型对标注数据依赖过大的问题,探讨了自监督学习(SSL)在视觉任务中的应用与机制。文章提出了一种系统分类的SSL技术分类法,并对现有的预训练任务进行了回顾,指出了该领域的挑战和未来研究方向,强调SSL在无标注数据环境下的潜在影响。