May, 2022
自监督对比学习的几何理解
Toward a Geometrical Understanding of Self-supervised Contrastive Learning
Romain Cosentino, Anirvan Sengupta, Salman Avestimehr, Mahdi Soltanolkotabi, Antonio Ortega...
TL;DR本文研究了自监督学习中编码器和映射器的关系,发现数据增强策略的增加会导致映射器变得更加不变,从而学习将数据投影到低维空间中,具有理论和实验结果的几何学解释。