Oct, 2017

级联深度分类器的高效摊销推理

PDF
TL;DR该论文提出了一种使用深度神经网络级联和选择模块的新框架，通过同时优化预测准确性和能耗，实现了在测试时间的有效成本 - 准确性权衡，验证了该方法在图像分类任务中优于标准训练的 ResNets，对 CIFAR-10/100 数据集的 FLOPs 成本需求不到 20% 和 50%，在 ImageNet 数据集上只需求 66%。
deep neural networksenergy costtrade-offcascade neural networksreinforce algorithm
发现论文，激发创造
  • 多尺度稠密网络用于资源高效的图像分类

    该论文研究了在测试时具有计算资源限制的图像分类问题，并通过训练多个带有不同资源需求的分类器并将其作为早期退出引入单个深度卷积神经网络中以最大程度地重用计算，实现了在任意时间进行预测和分配不同的计算量来分类一组样本，框架显著改善了现有技术在两种情况下的表现。

    Mar, 2017

  • 级联预测模型的近似算法

    本文介绍了一种近似算法，将一组预训练模型作为输入，并生成一个具有类似准确度但平均成本较低的级联模型，应用于最先进的 ImageNet 分类模型，可将浮点乘法降低达 2 倍，并将平均情况下的内存 I / O 降低达 6 倍。自动生成的级联呈现出直观的特性，如对易于处理的图像使用较低分辨率输入，并在使用计算成本较低的模型时需要更高的预测置信度。

    Feb, 2018

  • 重访级联集成以提高推理效率

    本文研究了一种简单的自适应推理方案，通过构建级联模型集成（CoE）并根据集成一致性作为数据依赖路由准则，将资源高效的模型逐渐扩展到更表达能力的模型，从而提高准确性并降低推理成本。

    Jul, 2024

  • 级联残差网络：高速、高精度、轻量级超分辨率

    本文提出一种准确且轻量的深度学习网络结构用于图像超分辨率问题，该网络结构采用级联机制并在残差网络上实现，实验证明即使使用较少的参数和运算，该模型的性能与最先进的方法相当。

    Mar, 2018

  • 深度集成学习的推理效率优化

    本文提出了一种基于序列推理过程的集成学习方法，通过逐步筛选难度较大的样本，动态调整模型的推理集成过程，从而同时优化推理的有效性和效率，实现了 56% 推理成本的减少，而维持与全集成模型相当的性能。

    Jan, 2023

  • 深度神经网络的完全动态推断

    提出了一种全动态模型的方法，称为 LC-Net，旨在最大化深度卷积神经网络的计算效率和任务准确性，通过以层和卷积滤波通道为单位的层次推理动力学，能够预测冗余层和卷积滤波器 / 通道并学习保留计算结果以实现最大化任务准确性。

    Jul, 2020

  • 深度神经网络的高效在线处理

    本论文致力于提高神经网络的效率，提出了连续推理网络（CIN），它通过自下而上的计算重新组织和适度的架构修改来改善其在线处理效率，并采用 CIN 重构了几种广泛使用的网络架构，包括 3D CNN，ST-GCN 和 Transformer Encoders。另外，通过使用熔接适配器网络和结构修剪，本论文还达到了在使用较少的学习权重的情况下实现卓越的预测准确性的目的。

    Jun, 2023

  • 面向能耗 - 准确性权衡的实时可配置深度神经网络

    提出一种新的动态配置技术，可在运行时进行逐步的能量 - 精确度权衡，调整深度神经网络中通道数量，以响应时间、功率和准确性目标调整，并且我们对 MNIST、CIFAR-10 和 SVHN 数据集的三个知名网络进行了性能分析并证明，我们能够在三个基准测试中实现高达 95% 的能量降低且不到 1% 的准确率损失。

    Jul, 2016

  • 以强化学习为简明替代预测级联：基于图像分割的案例研究

    深度学习和计算机视觉中，级联架构对执行资源受限的环境不可行，PaSeR 是一个代替级联架构的计算成本感知学习流程，通过实验评估表明，相对于级联模型，PaSeR 在减少计算成本的同时实现更佳的准确性，且在 IoU/GigaFlop 指标下对电池材料相分割任务具有最小 174% 的性能提升和对噪声 MNIST 数据集的最小 13.4% 的性能提升。

    Feb, 2024

  • IDK Cascades：通过避免过分思考加速深度学习

    通过引入基于类别不对称的模型级联框架 (IDK)，充分利用预训练模型集合，实现深度学习推断加速和成本降低，无需重新训练模型。在多个基准测试中验证了该框架的有效性。

    Jun, 2017