本文研究了如何通过使用低分辨率图像进行数据增广和微调来提高神经网络在图像分类中的性能，特别是在训练和测试分辨率不同时。通过实验证明，这种方法可以提高分类器的准确率，在 ImageNet 数据集上的单张图片分类准确率达到 86.4%（top-5:98.0%）。

Jun, 2019

本文介绍了 EfficientNetV2, 这是一种新的卷积网络家族，具有比以前的模型更快的训练速度和更好的参数效率，同时采用了神经结构搜索和缩放相结合的方法，以共同优化训练速度和参数效率。通过逐渐增加图像大小来训练，我们的 EfficientNetV2 在 ImageNet 和 CIFAR / Cars / Flowers 数据集上显著优于以前的模型。

Apr, 2021

本文系统研究了模型的缩放并提出了一种基于网络深度、宽度和分辨率的平衡方法，进而使用神经架构搜索设计了一种新的基线网络并扩展成一系列模型，称为 EfficientNets，这些 EfficientNets 在多项测试中取得了更好的准确性和效率，包括在 ImageNet 数据集上达到了 84.3% 的 top-1 准确率，在成为当前最佳的 ConvNet 的推理速度比其快 6.1 倍、参数更少的情况下，这是一个领先的结果。

May, 2019

本研究设计和训练了一个大小不超过 500 万可训练参数的修改版 ResNet 模型用于 CIFAR-10 图像分类，通过一些训练策略和合适的超参数，最终测试准确率达到 96.04％。

Jun, 2023

通过优化现有的深度神经网络 (DNN)，减小模型大小并减少内存利用，提高硬件利用率，并在资源受限的边缘环境中便于设备内训练。在 Caltech-101 图像分类和 PCB 缺陷检测实验中，我们的模型表现优于原始模型 Xception 和轻量级模型 EfficientNetV2B1 和 MobileNetV2，在测试准确性、内存利用和训练推断时间等方面都取得了较好的结果，同时满足精确性和低内存利用率目标。

Mar, 2024

通过使用更大的学生模型和在学习过程中添加噪声，该文提出了一种名为 'Noisy student training' 的半监督学习方法，在大规模高质量图像分类任务 ImageNet 上取得了 88.4% 的准确率，并在鲁棒性测试集上表现优异。

Nov, 2019

提出了用于计算机视觉任务的预训练神经网络的有效过滤方法，包括图像分辨率下采样和数据子集筛选，验证结果表明这种方法明显降低了训练成本并提高了性能。

Nov, 2020

本文探讨了在 petaflop 级超级计算机上训练 ResNet-50 的挑战和新解决方案，最终展示了高达 90％的扩展效率和 28 分钟的训练时间。同时介绍了 Collapsed Ensemble (CE) 技术，使得在相同的固定训练预算下，使用未修改的 ResNet-50 拓扑结构可以获得高达 77.5％的准确率，类似于 ResNet-152。

Nov, 2017

本文提出了在 ICLR 的竞赛中获得第一名的硬件感知高效训练方法，该方法针对在不到 10 分钟内在图像分类任务中实现尽可能高的准确性的挑战。通过在一个小数据集上进行训练，并应用一系列技术来改进 ResNet-9 的泛化性能，我们的实验表明，ResNet-9 可以在不到 10 分钟的时间内只使用 CIFAR-10 数据集的 10% 子集达到 88% 的准确率。

Sep, 2023

本文重新评估了使用新的优化和数据增强方法训练的基准 ResNet-50 模型的性能，并以此为基线，在 ImageNet 数据集上获得了 80.4％的 top-1 准确率，同时提供了预训练模型和更好的训练设置。

Oct, 2021