early exits | BriefGPT - AI 论文速递

关键词early exits

搜索结果 - 9

SAE：单体架结合神经网络
通过单个神经网络中的早期退出和多输入多输出框架，将分散的神经网络集成为一个单一的体系结构集合，提高准确度和置信度校准，并减少运算和参数量。
PDF5 months ago
MMI-SplitEE: 利用提前退出技术的分布式计算深度神经网络的图像分类
最近深度神经网络（DNN）的进展源于其在各个领域的出色性能。然而，它们天生的庞大大小限制了将这些网络部署到资源受限的设备，如边缘、移动和物联网平台。我们的工作提出了一种创新的统一方法，将早期退出和分裂计算合并在一起。考虑准确性、计算效率和通
PDF5 months ago
SplitEE：深度神经网络中的分割计算早期退出
将早期退出和拆分计算相结合，开发了一种在线无监督学习算法 SplitEE，通过在资源受限设备中选择性计算和外部计算，实现了大幅降低成本（>50%）并略微降低准确性（<2%）的效果。
PDF9 months ago
增强 Once-For-All：关于并行块、跳跃连接和早期退出的研究
本文提出 OFAv2，它是 Once-For-All 算法的改进版，它通过包括早期退出、并行块和密集跳连接来改进体系结构，并扩展了训练过程，引入了 Elastic Level 和 Elastic Height 两个新阶段。此外，本文提出适用
PDFa year ago
通过聚合早期退出来预测、集成和精简卷积神经网络
本文介绍了一种新的训练技术 Anticipate, Ensemble and Prune (AEP)，它基于权重集成的早期退出，旨在利用网络结构中的信息来最大化其性能。通过一系列全面的实验，我们展示了使用这种方法可以使平均准确性提高高达 1
PDFa year ago
EENet: 适应推理的学习早期退出
本研究提出了一种基于多目标学习的多出口深度神经网络推理框架 EENet，以优化在给定推理预算下的早期退出策略。 EENet 早期退出调度程序优化测试样本分配到不同退出，同时选择退出效用阈值，以满足给定的推理预算，同时最大化性能指标。与现有代
PDFa year ago
始终个性化：使用早期退出实现高效的设备端 CNN 个性化
本文介绍了一种名为 PersEPhonEE 的框架，通过提出早期退出的方法和在设备上半监督学习的算法，以极高的准确率和较少的计算复杂度实现了设备上的模型个性化处理。
PDF3 years ago
神经网络为什么需要增加早期退出机制？
本研究介绍了一种多输出深度神经网络，它具有提高推理速度、减少过拟合以及利用多层次计算平台的优势，并描述了在 5G 和雾计算环境中的应用场景以及相关的开放式研究问题。
PDF4 years ago
ICML浅 - 深网络：理解和缓解网络过度思考
本研究发现深度神经网络中的过度思考现象及其带来的计算浪费和错误分类问题，提出了增加内部分类器的 Shallow-Deep Network 对于内部分类的可见性，同时通过引入基于置信度的早期决策来减少计算浪费并避免了 50％的自然输入误分类问
PDF6 years ago