ICMLJan, 2019

SelectiveNet：具有集成拒绝选项的深度神经网络

PDF
TL;DR本论文介绍了 SelectiveNet，这是一种有集成拒绝选项的深度神经架构，通过同时优化分类（或回归）和拒绝，得到了一个在覆盖域上优化的深度神经网络，实验表明，SelectiveNet 在多个分类和回归数据集上均获得了改进的风险覆盖权衡效果，从而达到了深度选择分类的新的最佳结果。
selective predictionreject optiondeep neural networksclassificationregression
发现论文，激发创造
  • SkipNet: 卷积网络中动态路由的学习

    通过使用 SkipNet，结合特定输入实现卷积层跳过的目的。我们提出了一个混合学习算法，以解决非可微分跳过决策的问题，并在四个基准数据集上展示了 SkipNet 可以在保留准确性的基础上减少计算量 30-90%。此外，我们定性评估了门控策略，揭示了图像大小和显著性以及跳过层数之间的关系。

    Nov, 2017

  • GaterNet：CNN 中的动态滤波器选择

    本文提出了一种名为 GaterNet 的借助于门控网络实现的动态卷积神经网络滤波器选择框架，通过丰富 CNN 模型的学习方式，提高了模型性能并得出了比原论文更好的实验结果。

    Nov, 2018

  • SparseNet: 一种用于图像分类的稀疏 DenseNet

    本文提出了一种稀疏 DenseNet 的方法，可以使神经网络在更低的参数和计算代价下实现深度、宽度和连接的同时，在 CIFAR10 和 SVHN 数据集上比现有 state-of-the-art 模型的性能更优，并且相比原始 DenseNet 小 2.6 倍，速度快 3.7 倍。

    Apr, 2018

  • iSmallNet：具有标签解耦的密集嵌套网络用于红外小目标检测

    本文提出了一种多流密集嵌套网络 iSmallNet，配合标签解耦技术针对红外小目标检测中常见的背景杂乱、易错报和 CNN 无法识别等问题，在内部地图和边界地图上解决源标签分布不均的问题，并引入多尺度嵌套交互模块和内部 - 边界融合模块以增强整个网络的性能，实验结果表明 iSmallNet 比其他 11 种最先进的检测器表现更好。

    Oct, 2022

  • ScaleNet：一种有限信息的无监督表示学习方法

    本研究提出了一种名为 ScaleNet 的简单高效的无监督表示学习方法，通过使用多尺度图像来增强有限信息条件下卷积神经网络 (ConvNets) 的性能，并展示了 ScaleNet 方法在旋转预测任务上的优越性及其对其他模型的分类任务的改进能力。

    Oct, 2023

  • 使用迭代硬阈值方法训练瘦身的深层神经网络

    本研究提出了一种迭代硬阈值（IHT）方法用于训练 “瘦” 深度神经网络（SDNN），该方法可以通过两个阶段的交替训练操作，即丢弃小激活连接并微调其他重要权重，然后重新激活被丢弃的连接以提高模型疏密性。该方法的优越性通过使用 CIFAR-10，CIFAR-100，MNIST 和 ImageNet 四种基准数据集的实验结果得到了验证。

    Jul, 2016

  • S-Net：一种用于 JPEG 压缩伪影抑制的可扩展卷积神经网络

    该研究提出了一种可扩展的 CNN 框架，名为 S-Net，旨在通过动态调整网络规模，以达到实时操作，并最大化网络效率，实验证明其在 JPEG 压缩去噪方面的性能优于其他基于 CNN 的方法。

    Oct, 2018

  • CSPNet: 一种新的骨干网，可增强 CNN 的学习能力

    本文介绍了一种名为 Cross Stage Partial Network (CSPNet) 的深度神经网络，旨在通过减少多余的梯度信息占用，降低网络推理的计算资源消耗。该方法可以与 ResNet、ResNeXt 和 DenseNet 等不同类型的深度神经网络结构相兼容，且实验结果表明，该方法在 ImageNet 和 MS COCO object detection dataset 上的精度和推理速度优于当前的最佳技术。

    Nov, 2019

  • SimpleNet：图像异常检测与定位的简单网络

    本文提出一种简单且应用友好的神经网络（简称 SimpleNet），用于检测和定位异常。SimpleNet 由四个组件组成：预训练特征提取器、浅层特征适配器、简单异常特征生成器和二进制异常鉴别器，并在 MVTec AD 基准测试上实现了 99.6％的异常检测 AUROC。

    Mar, 2023

  • 网络中的网络

    本文提出了一种新型深度神经网络结构，称为 “Network In Network”，以增强感受野内局部补丁的模型可辨别度。通过在感受野内构建微型神经网络，本文在多个数据集上展示了 NIN 在图像分类方面表现出卓越的性能与利用全局平均池化来代替传统全连接层解决过拟合问题的优越性。

    Dec, 2013