Jan, 2022

匹配数据增强分布增强预训练网络性能

PDF
TL;DR本文提出了一种简单的方法来解决训练和测试集之间的分布差异，通过在测试图像上使用多个随机裁剪的结果，并将其进行平均来提高预训练模型的性能。使用 softmax 平均可在不需要重新训练的情况下获得各种预训练网络的最佳性能。
distribution discrepancycnnspre-trained modelsrandom cropssoftmax averaging
发现论文，激发创造
  • 利用现有的深层网络进行字幕和美学引导的图像裁剪

    我们提出了一种新颖的优化框架，它可以基于用户描述信息和美学目标对给定图像进行裁剪，通过重新利用预训练的图像标注和美学任务网络直接优化裁剪参数，并通过多种策略实现了优化目标的实现，定量与定性实验证明我们的框架可以产生符合预期的用户描述和审美标准的裁剪图像。

    Jan, 2022

  • AugMix：一个简单的数据处理方法，用于提高鲁棒性和不确定性

    本文提出了一种名为 AugMix 的数据处理技术，该技术对图像分类器的鲁棒性和不确定性估计有显著的提高，这有助于模型抵御在部署过程中遇到的意外破坏。

    Dec, 2019

  • 通过适应和增强检测时间鲁棒性

    本文提出了一种简单的方法，在没有模型训练过程的任何假设的情况下，通过在测试数据点上执行不同的数据增强并通过最小化平均输出分布的熵来适应模型参数，从而提高模型的鲁棒性。该方法在多个基准测试中都表现出色，并在 ImageNet-C、ImageNet-R 和 ImageNet-A 分布偏移基准测试中实现了最先进的结果。

    Oct, 2021

  • 卷积神经网络的强健性和可迁移性研究

    对现代深度卷积网络（CNN）未能在分布漂移下推广的问题进行了研究，并探究了预备数据量、模型规模和数据处理流程对迁移性能的影响，发现增加训练集和模型大小显著提高了分布偏移鲁棒性，同时是非常简单的预处理，如修改图像分辨率在某些情况下可以显著缓解鲁棒性问题。最后，我们提出了一个新的综合数据集 SI-Score 进行了系统的分析。

    Jul, 2020

  • 多样化合奏提高校准度

    本文探讨了在深度神经网络中使用集成学习以及数据增强等技术，以提高 CIFAR10 和 CIFAR100 基准数据集的准确率和校准度。

    Jul, 2020

  • 比较不同人工智能范式、增强和裁剪策略学习的生物数据表示

    该研究提出了一个简单的卷积神经网络架构，并在相同条件下使用不同的数据增强和裁剪策略训练了 16 种不同的深度学习模型，以比较其在药物识别、控制组分类和细胞聚类这三个下游任务中所学到的特征提取的性能和效率，其结果表明，多切割和随机增强通常能提高性能，而自我监督模型的性能也非常高，是训练速度最快的模型之一，但需要最大的内存和计算资源。

    Mar, 2022

  • 深度学习训练过程增强

    本文介绍了几种新颖的深度学习训练技术，如广义模型无关课程学习方法和级联加和增强方法，它们不仅能够提高训练效率并改善深度网络训练过程中的优化平滑度、鲁棒性，而且还能够为计算机视觉任务提供更好的预测性能和模型稳健性。

    Nov, 2022

  • 利用通用数据增强改进深度学习

    该研究基于对简单的 CNN 使用几何和光度扩增方案的试验性结果，通过 4 折交叉验证考察了不同的数据扩增方案，并证明 crop 扩增在几何扩增方案中可以显著提高 CNN 任务性能。

    Aug, 2017

  • 深度神经网络的特征层级增强提高仿射变换鲁棒性

    本文提出了在中间神经网络层引入数据增强以改善卷积神经网络不适用于少量像素旋转或平移的问题，并证明该方法比已有的两种方法获得更好的精度和平均翻转比。

    Feb, 2022

  • 解决训练和测试分辨率不一致的问题

    本文研究了如何通过使用低分辨率图像进行数据增广和微调来提高神经网络在图像分类中的性能，特别是在训练和测试分辨率不同时。通过实验证明，这种方法可以提高分类器的准确率，在 ImageNet 数据集上的单张图片分类准确率达到 86.4%（top-5:98.0%）。

    Jun, 2019