Mehdi Azabou, Mohammad Gheshlaghi Azar, Ran Liu, Chi-Heng Lin, Erik C. Johnson...
TL;DR介绍自我监督学习的全新方法'Mine Your Own vieW（MYOW）'，用于数据集挖掘，以便为神经科学等新领域建立多元视图。该方法在计算机视觉基准测试中表现出了良好的前景，并在多单元神经记录数据上的测试中表现出更好的性能。
Abstract
State-of-the-art methods for self-supervised learning (SSL) build representations by maximizing the similarity between different augmented "views" of a sample. Because these approaches try to match views of the same sample, they can be too myopic and fail to produce meaningful results
本文提出了一种新的自监督图像表示学习方法Bootstrap Your Own Latent（BYOL），通过在线网络和目标网络相互交互和学习，从图像的增强视图中训练在线网络以预测在不同增强视图下相同图像的目标网络表示，并同时使用在线网络的缓慢移动平均更新目标网络，通过使用ResNet-50架构进行线性评估，BYOL在ImageNet具有74.3％的top-1分类准确率，在转移和半监督基准测试中BYOL表现与当前技术水平相当或更好。