CVPRMay, 2021

BCNet: 双向耦合网络搜索网络宽度

PDF
TL;DR本文提出了双向耦合网络 (BCNet) 的概念，使用随机补充和先验采样技术来训练 BCNet，能够更准确地评估每个网络宽度。在 CIFAR-10 和 ImageNet 数据集上的实验表明，该方法在性能上超越了其他基线方法，并通过对 NAS 模型的网络宽度进行优化，进一步提高了性能。
compact network widthchannel pruningsupernetbilaterally coupled networkevolutionary search
发现论文，激发创造
  • 双侧耦合网络中的网络宽度搜索

    该论文提出一种双向耦合网络（BCNet）来解决现有方法在超网络中存在的训练不公平问题，同时通过优化搜索空间和采用新的训练策略来实现更精确的网络宽度评估。通过实验证明，该方法可以获得良好的效果，并在网络结构的优化中进一步提升性能表现。

    Mar, 2022

  • 局部自由重参数共享用于网络宽度搜索

    本文提出了一种自由权重共享的策略 CafeNet 和一种减小搜索空间的方法来更好地评估每个网络宽度，该方法可以在 ImageNet、CIFAR-10、CelebA 和 MS COCO 数据集上进行验证，并被证明优于其他最先进的基线模型，特别是通过更精细地搜索其宽度，我们的方法可以进一步提高基准 NAS 网络 EfficientNet-B0 的性能 0.41%。

    Feb, 2021

  • 通用可变宽度网络和改进的训练技术

    该论文提出了一种名为 “通用可变宽度神经网络” 的系统方法，将可变宽度神经网络扩展到任意宽度，提出了两种改进的训练技术，能够提高训练过程和测试准确性；作者在 ImageNet 分类任务、图像超分辨率和深度强化学习任务上评估了其方法，证明其有效性，同时打开了直接评估网络结构 FLOPs-Accuracy 谱的可能性。

    Mar, 2019

  • CU-Net: 耦合 U-Net

    设计了一个新的 U-Net 网络连接模式，即 Coupled U-Net (CU-Net)，通过语义块的连接实现多个 U-Net 之间信息的高效流动和参数的复用，用于人体姿态估计任务，与其他方法相比，能够达到类似的准确率，但参数数量最少减少 60%。

    Aug, 2018

  • AOWS: 自适应和优化的网络宽度搜索及延迟限制

    本研究提出了一种高效的一次性神经结构搜索方法，通过优化搜索通道数以求在特定硬件上的延迟限制下，获得较好的神经结构性能，并通过适应性通道策略逐步满足目标计算约束。在 ImageNet 分类的实验中，该方法可以找到符合资源约束的网络解决方案，同时提高了有效网络的准确性，展示出新的颖展性。

    May, 2020

  • 高容量专家二元网络

    本研究针对网络二值化技术领域的准确度损失问题，提出了三种新方法：1）使用专家二值卷积提高模型容量，2）引入宽度扩展机制以提高表示容量，3）提出了一种可行的网络增长机制以获得良好的网络拓扑结构，通过实验在 ImageNet 分类任务上取得了超过以往方法 6% 的精度提升。

    Oct, 2020

  • MutualNet: 通过宽度和分辨率的相互学习来自适应卷积神经网络

    提出了宽度 - 分辨率互学习方法 MutualNet，通过训练不同宽度的多个子网络来实现自适应准确性和效率之间的权衡，最终在不同计算约束下，通过互学习获得更好的 ImageNet top-1 精度。

    Sep, 2019

  • 双线性卷积神经网络实现一对多人脸识别

    研究通过利用卷积神经网络的新架构 —— 双线性 CNN (B-CNN)，在 IARPA Janus 基准测试集上进行面部识别，实现了额外的性能提升，并将标准 CNN 与 VGG-Face 模型进行比较。

    Jun, 2015

  • 使用平衡的超级神经网络学习 CNN 池化架构

    通过分析 ResNet20 网络在 CIFAR10 实验数据集中使用不同 pooling 配置的训练性能，本文发现预定义下采样配置并非最优选择，可以通过神经网络架构搜索来优化。同时，本文建议采用平衡混合的 SuperNets，可以使权重模型自动关联池化配置，从而降低池化配置之间的权重共享和相互影响。实验结果表明，本文提出的方法在 CIFAR10、CIFAR100 和 Food101 数据集上都优于其他方法，并改善了默认池化配置的性能。

    Jun, 2023

  • 双线性卷积神经网络用于细粒度视觉识别

    该论文提出了一种称为 Bilinear 卷积神经网络（B-CNNs）的神经网络模型，通过使用两个卷积神经网络所提取的特征的外积计算来表示图像，并以平移不变的方式捕捉局部特征交互，并在多项图像分类数据集上展示了其在识别精度和速度等方面的优越性。

    Apr, 2015