自我监督表示学习经常使用数据增强来诱导对数据的 “风格” 属性的某种不变性。然而，由于在训练时通常不知道下游任务，很难事先推断哪些属性实际上是 “风格”，并且可以安全地丢弃。为了解决这个问题，我们引入了一种更有原则性的方法，旨在解开 “风格” 特征而不是丢弃它们。关键思想是添加多个风格嵌入空间，其中：（i）每个空间对除一个增强操作外都不变；（ii）联合熵被最大化。我们从因果潜变量模型的角度形式化了我们的结构化数据增强过程，并证明了内容和（多个模块的）风格变量的可辨识性。我们在合成数据集上通过实验证明了我们方法的好处，然后在 ImageNet 上展示了有限但有希望的结果。

Nov, 2023

本文提出了一种条件增强感知的自监督学习方法（CASSLE），使用投影器网络对图像进行辅助引导，以实现对不同数据扩充方法的感知敏感性，并可获得多项下游任务的最新性能表现。

May, 2023

本研究评估了采用神经风格转换作为数据增强方法对图像分类任务的有效性，并在 Caltech 101 和 Caltech 256 数据集上获得了大约 2％的准确度提高。同时，还将神经风格转换方法与传统数据增强方法相结合，进一步提高了图像分类的性能。这项工作展示了神经风格转换在计算机视觉领域的潜力，例如帮助我们减轻收集足够标记数据的难度并提高通用基于图像的深度学习算法的性能。

Sep, 2019

该研究针对自我监督表示学习中的数据增强方法进行理论分析，将数据增强通过构建潜变量模型实现，同时研究其在潜空间的统计和因果依赖关系，提出作者的理论和实验发现对于保留数据的不变性有较好的效果。

Jun, 2021

本文提出了一种使用基于随机采样和噪音添加的样式增强算法，以改善一般线性变换的样式转移中的随机性，通过我们的增强策略，所有模型不仅在图像风格化方面表现出极高的鲁棒性，而且在 STL-10 数据集上超越了所有先前方法并超过了最先进的性能。同时，我们对模型在不同样式变化下的解释进行了分析，并比较了在训练设置中应用于深度神经架构时的性能的全面实验。

Aug, 2023

自我监督学习（SSL）作为应对深度神经网络（DNNs）中有限标记数据挑战的一种有前途的解决方案，具有可扩展性潜力。本研究全面探索了 SSL 在各种数据增强中的行为，揭示了它们在塑造 SSL 模型性能和学习机制方面的关键作用。利用这些见解，我们提出了一种集成先验知识的新学习方法，旨在减少对大量数据增强的需求，从而增强学习表示的有效性。尤其值得注意的是，我们的发现表明，富含先验知识的 SSL 模型表现出较小的纹理偏差，对快捷方式和增强技术的依赖减弱，并且对自然和对抗性破坏具有改进的鲁棒性。这些发现不仅为 SSL 研究指明了新的方向，而且为提高 DNN 性能、减轻对大量数据增强的要求，从而增强可扩展性和实际问题解决能力方面铺平了道路。

Apr, 2024

本文通过对三种不同模型以及 420 种不同任务的广泛实验，认真研究了数据增强在异常检测中的作用，得出自监督作为另一个模型超参数，需要根据真实异常特征仔细选择数据增强方式的结论，并且在缺乏对应的情况下，自监督甚至会降低准确性，从而为未来的研究提供了新的方向

Aug, 2022

提出了一种适用于极小标注数据集的自我监督方法 SS-StyleGAN，通过在 StyleGAN 体系结构中集成一个学习嵌入到 StyleGAN 潜空间的编码器，它利用学习的潜空间智能选择代表性数据进行标注以提高分类性能，并展示了在 50 个甚至 10 个大小的标注数据集上取得强大的分类结果，特别适用于 COVID-19 和肝肿瘤病理鉴定任务。

Dec, 2023

自我监督学习通过使用生成模型生成语义一致的图像增强，丰富了学习强大视觉表示的方法，并显著提高了学习到的视觉表征的质量。

Mar, 2024

本研究探讨了图像分类器的半监督学习问题，提出了自监督半监督学习框架，并使用该框架派生出两种新的半监督图像分类方法。在 ILSVRC-2012 测试中，证明了该方法与现有半监督学习方法相比的有效性和新的最佳结果。

May, 2019