虚拟嵌入和自一致性用于自监督学习
本文对自我监督学习的理论与实践中被忽视的问题进行了分析，阐述了数据增强、网络结构和训练算法对于预训练和下游任务泛化性能的影响，并为自我监督学习的从业者指出了一些有价值的见解。
Feb, 2023
本文提出了一个集成 tri-training 的通用社交感知的自监督学习框架，将节点间的自我监督信号与其他节点的监督信号结合起来，以提高推荐系统性能。实验证明了该框架的有效性。
Jun, 2021
DiffMix 是一种新的自监督学习（SSL）预训练框架，通过结合真实图像和合成图像，采用稳定扩散的变种来增强跨真实 - 合成图像表示的学习，从而提高了 SimCLR、BarlowTwins 和 DINO 等 SSL 方法在各种鲁棒性数据集和域转移任务上的性能。
Jun, 2024
本文深入分析了自监督学习的机制以及其对表示学习的影响，揭示了自监督学习在样本聚类方面的潜在驱动作用，同时证实了该方法所训练的表示与语义类别之间存在着密切的对齐关系，并且这种对齐关系随着训练和网络深度的加深而不断增强，这对于提高自监督学习方法的性能和效果具有重要的理论和实际意义。
May, 2023
提出了一种名为 Barlow Twins 的自监督学习方法，通过在两个相同的网络中输入扭曲版本的样本并测量它们输出的相关性矩阵，使嵌入向量在保持相似性的同时最小化它们之间的冗余。该方法在低数据范围内的半监督分类上优于以前的方法，并对于使用线性分类器头部的 ImageNet 分类和分类与目标检测的转移任务与当前最先进的方法相媲美。
Mar, 2021
本文提出了一种结合半监督学习 (Semi-supervised learning, SSL) 和无监督分化表征学习的方法来增强自我聚合算法 (self-ensembling)，并以多标签分类的方式在胸部 X 光图像上进行了验证。结果表明，该方法的性能得到了改善，并且其分化的表征也更加具有解释性。
Jul, 2019
使用混合图像的自监督学习研究了各种图像表征。我们提出了一种基于多值逻辑的新型混合图像的自监督学习方法和新的表征格式，该格式可以指示特征占有程度，即每个图像特征被表征所占有的程度。此方法在图像分类任务中与以前的表征合成方法表现竞争力，并且还通过多标签图像分类数据集验证了特征占有程度与图像类别数量之间的关系，以验证其预期的学习成果。另外，我们还讨论了图像检索，这是使用多值逻辑的我们提出的表征格式的一个应用。
Sep, 2023