本文通过严格的评估探索了不同的深度学习架构，比较它们在公共领域的性能，并识别和披露了重要的实现细节，同时指出了CNN基础表示的几个有用属性，包括输出层维度可以显著降低而不会对性能产生不利影响，以及深浅层方法可以成功共享的方面。

May, 2014

本文介绍了一种使用无标签数据训练卷积网络的方法，该方法可用于通用特征学习，通过应用多种变换来区分一组代理类别，获得了比监督学习更具鲁棒性的特征表示，能在几个流行数据集上取得胜于现有结果的分类效果。

Jun, 2014

该论文提出深度卷积生成对抗网络（DCGANs）可以用于无监督学习，通过在各种图像数据集上的训练，证明了DCGANs能够学习从物体部分到场景的表示层次结构，并且可以用于一般图像表示。

Nov, 2015

该研究旨在探讨深度卷积神经网络中的各个特征的辨别力以及应用它们进行知识表示和推理的可能性，并通过统计学方法提供了新的见解和阈值方法来减少特征中的噪声。

Mar, 2017

本研究提出利用2D旋转来训练卷积神经网络学习图像特征的无监督语义特征学习方法，并在演示和各种无监督特征学习基准测试中详尽评估该方法，在所有测试中均表现出明显的优异性能。

Mar, 2018

本文提出了一种新的无监督表示学习范式，通过自编码变换（AET）而非传统的自编码数据（AED）方法进行训练，使得神经网络可以在没有标注数据的情况下学习。实验结果表明，AET范式可以实例化一大类变换，具有比现有的无监督方法更好的性能，特别是在CIFAR-10、ImageNet和Places数据集上表现更接近完全监督对照组的上限。

Jan, 2019

该论文探讨了自我监督方法在无监督视觉表示学习中的重要性，提出之前CNN设计的标准配方不一定适用于自我监督表示学习， 并大幅度提高了之前提出技术的性能，超越了之前公布的最先进结果。

Jan, 2019

本文对于深度卷积神经网络的自监督技术进行了批判性的探讨，指出在使用强大的数据增强技术后，三种不同但具有代表性的方法可以从单个图像中学习卷积网络的前几层，但是对于更深层的神经网络，即使使用了数百万张未标记的图像来进行训练，与手动监督的差距也无法弥补。该研究得出的结论是：（1）深度网络的早期层的权值包含的自然图像的统计信息非常有限，（2）这种低层次的统计信息可以通过自监督学习和强监督学习一样学习，（3）可以通过使用合成变换来捕获低层次的统计信息，而无需使用大量的图像数据集。

Apr, 2019

无监督表示学习、卷积自组织神经网络、评估协议、表示传输、图像到图像转换

Nov, 2023

通过引入Converting Autoencoder和intraclass clustering方法，本研究设计了EncodeNet框架，提高了DNN模型的准确性而不增加模型大小，并在CIFAR-10和CIFAR-100数据集上取得了比知识蒸馏和注意力机制更高的准确度。

Apr, 2024