SimCLR是一种简单的对比学习框架，通过定义有效的预测任务、引入可学习的非线性变换以及使用大型批次和更多的训练步骤来提高对比学习的效果，在ImageNet数据集上实现了比以往方法更好的自监督和半监督学习结果。

Feb, 2020

本论文探讨了基于对比学习的图像表示学习方法，提出了一种最大化互信息的下界的目标函数，并在实验中发现选择难度更大的负样本以及视角可以提高算法性能。通过比较多种学习方法，研究结果表明，基于互信息的目标函数可以使得算法在分类、边界框检测、实例分割和关键点检测等任务上获得更好的表现。

May, 2020

本文提出了一种对比学习方法，该方法不需要先前知道特定于任务的不变性，使用多头网络构建不同的嵌入空间来捕捉可变及不变的因素 以提高视觉表示的效果，并发现不变空间和变化空间的连接在包括数据破坏等各种下游分类任务中表现最佳。

Aug, 2020

本篇论文提供了Contrastive Learning的文献综述，并提出了一个通用的Contrastive Representation Learning框架，该框架简化并统一了许多不同的对比学习方法，并对对比学习的各个组成部分进行了分类。对于任何对比学习系统存在的规约偏差进行了分析和讨论，将我们的框架根据各种机器学习子领域的不同视角进行了分析。最后，介绍了对比学习在计算机视觉、自然语言处理、音频处理以及强化学习等领域的应用，以及未来研究方向中的挑战和一些最有前途的研究方向。

Oct, 2020

本文提出了一种名为SCAN的新算法，该算法通过最大限度地防止语义指导损坏外观特征嵌入，有效的融合了有监督和自监督学习方法，取得了比以往的有监督和自监督方法更好的性能，并揭示了语义标签在辅助自监督方法中的作用。

Nov, 2020

本文提出了一种叫做对比正则化调整的方法，把对比自监督学习应用在Fei-tuning中，用一种新颖的硬配对挖掘策略实现更有效的对比式Fei-tuning，并平滑决策边界以更好地利用学习的判别式特征空间，证明了这种方法在图像分类和语义分割任务中的有效性。

Feb, 2021

该篇论文从训练算法、预训练数据集和最终任务的角度分析了自监督表示学习的最成功和最流行的变体-对比式学习，探究了各种问题，包括自监督模型与监督模型的性能比较，用于评估的当前基准，以及预训练数据对最终任务性能的影响。

Mar, 2021

本文探讨了将对比自监督学习扩展到领域适应上述情形的方法，通过无标签的正负样本比较学习，进一步识别和排除潜在可能误判的负面效应，以提高领域适应任务中的性能表现。

Mar, 2021

本文研究了自监督学习在四个不同的大规模数据集上的对比学习方法，通过数据量、数据领域、数据质量和任务粒度，得出了有关成功自监督学习所需条件的新见解，其中包括：(i) 除500k张图像外，额外的预训练数据的收益有限；(ii) 添加来自另一个领域的预训练图像不会产生更通用的表示。(iii) 比较学习在细粒度的视觉分类任务中远远落后于监督学习。

May, 2021

使用多领域数据集的超级对比学习模型相比使用交叉熵模型，平均在7个下游数据集上表现更好，结果显示其学习到的表示更具鲁棒性且可跨领域转移。

Sep, 2023