Jul, 2017

一种下采样的 ImageNet 替代 CIFAR 数据集的变种

PDF
TL;DR该论文提出了一个下采样的 ImageNet 数据集以解决在原始数据集上进行实验成本高的问题，并通过实验表明，与原始数据集相比，该数据集在使用深度神经网络训练时的最佳超参数的性质保持类似。
imagenetdeep neural networksdownsamplingdatasethyperparameter tuning
发现论文，激发创造
  • ImageNet-21K 大规模预训练

    本篇论文旨在通过专门的预处理阶段、利用 WordNet 层次结构和一种称为语义 softmax 的新型训练方案，从公开可用的 ImageNet-21K 数据集中有效地进行优质高效的预训练，并展示了不同模型在各种数据集和任务上获得的令人满意的结果。

    Apr, 2021

  • CINIC-10 不是 ImageNet 或 CIFAR-10

    介绍了 CINIC-10 数据集作为 CIFAR-10 的扩展替代品，并与从 ImageNet 数据库中选择和下采样的图像相结合编译而成，给出了数据集编译的方法和不同类别的示例图像，每个部分的像素分布以及一些著名的模型的标准基准测试。

    Oct, 2018

  • FD-MobileNet：快速下采样策略优化的 MobileNet

    本文介绍了一种适用于计算资源有限的场景（例如 10 到 140 MFLOPs）的网络 FD-MobileNet，其核心设计是在 MobileNet 框架中应用了极度的下采样策略，减少了计算成本、提高了信息容量和推理速度，并通过对 ILSVRC 2012 和 PASCAL VOC 2007 两个数据集的实验验证了 FD-MobileNet 相较于 MobileNet 在同样复杂度下表现更优越的性能。

    Feb, 2018

  • ImageNet 分类器是否具有 ImageNet 的泛化能力？

    本文构建了针对 CIFAR-10 和 ImageNet 数据集的新测试集，发现在新测试集上，模型的准确率下降为 3% 到 15%，且这种准确率下降并非由于适应性，而是由于模型无法推广到原始测试集中找不到的，略微 “更难” 的图像。

    Feb, 2019

  • 大型小批量 SGD 扩展：改进准确性和减少训练时间的 ImageNet-1K 上残差网络训练

    本文探讨了在 petaflop 级超级计算机上训练 ResNet-50 的挑战和新解决方案，最终展示了高达 90％的扩展效率和 28 分钟的训练时间。同时介绍了 Collapsed Ensemble (CE) 技术，使得在相同的固定训练预算下，使用未修改的 ResNet-50 拓扑结构可以获得高达 77.5％的准确率，类似于 ResNet-152。

    Nov, 2017

  • 本地尺度不变卷积神经网络

    本研究提出了一种可以使卷积神经网络具有局部尺度不变性的简单模型，从而在面对尺度变化时，可以学习到更具有区分性的特征，并减少过度拟合的风险。

    Dec, 2014

  • 压缩、恢复和重新标记：新视角下的 ImageNet 规模数据集简化

    SRe$^2$L 是一种新的数据集压缩框架，可以在训练期间解耦模型和合成数据的双层优化，以处理各种规模的数据集、模型结构和图像分辨率，具有高分辨率训练、低训练成本和内存消耗，以及在任意评估网络结构下扩展的能力。

    Jun, 2023

  • ImageNot: 对比 ImageNet 保持模型排名

    我们介绍了一个名为 ImageNot 的数据集，这个数据集在规模上与 ImageNet 相匹配，但在其他方面有很大差异。我们展示了在 ImageNot 上训练和评估的关键模型架构与在 ImageNet 上的排名完全相同，不论是从头开始训练还是微调模型。此外，每个模型相对于之前模型的改进在两个数据集中都强相关。我们进一步提供了证据表明，ImageNot 在迁移学习方面具有与 ImageNet 类似的效用。我们的工作展示了图像分类模型相对性能具有惊人的外部有效性，这与即使在数据集发生微小变化时绝对准确性数字通常会急剧下降的情况形成对比。

    Apr, 2024

  • 解决训练和测试分辨率不一致的问题

    本文研究了如何通过使用低分辨率图像进行数据增广和微调来提高神经网络在图像分类中的性能，特别是在训练和测试分辨率不同时。通过实验证明，这种方法可以提高分类器的准确率，在 ImageNet 数据集上的单张图片分类准确率达到 86.4%（top-5:98.0%）。

    Jun, 2019

  • 我们是否在测试数据上进行训练？净化近似重复的 CIFAR 数据集

    通过构建新的测试集 ciFAIR 数据集，消除训练集和测试集中的重复图像，重新评估了流行的 CNN 架构的分类性能，发现相对于原始无重复数据的测试集，分类准确率下降了 9％到 14％。

    Feb, 2019