Jan, 2023

通过聚合早期退出来预测、集成和精简卷积神经网络

PDF
TL;DR本文介绍了一种新的训练技术 Anticipate, Ensemble and Prune (AEP)，它基于权重集成的早期退出，旨在利用网络结构中的信息来最大化其性能。通过一系列全面的实验，我们展示了使用这种方法可以使平均准确性提高高达 15％，并且该方法在混合权重配置下，还可以通过内部修剪操作减少参数数量高达 41％，减少乘法和加法的数量 18％，并缩短推理所需的延迟时间 16％。
artificial neural networksearly exitsensemble learningtraining techniquesaccuracy improvements
发现论文，激发创造
  • EENet: 适应推理的学习早期退出

    本研究提出了一种基于多目标学习的多出口深度神经网络推理框架 EENet，以优化在给定推理预算下的早期退出策略。 EENet 早期退出调度程序优化测试样本分配到不同退出，同时选择退出效用阈值，以满足给定的推理预算，同时最大化性能指标。与现有代表性早期退出技术相比，EENet 可以显着提高性能。

    Jan, 2023

  • 早期退出预测的资源受限边缘人工智能

    本文提出了一种早期预测机制 'Exit Predictor'，通过引导某些明显 “困难” 的数据样本绕过早期出口的计算，从而降低设备边缘混合推理系统中早期退出网络的设备计算负担。同时，还考虑了通信带宽的变化，在延迟感知的边缘推理中通过几个简单的回归模型来调整 Exit Predictor 的预测阈值和早期退出网络的置信度阈值，以适应不同带宽条件下推理的需求。实验结果表明，Exit Predictor 对于早期退出网络在准确性和设备计算负担之间取得更好的折衷效果。与基线方法相比，在不同带宽条件下，提出的延迟感知的边缘推理方法具有更高的推理准确性。

    Jun, 2022

  • 认知神经网络

    本文介绍了一种能够辅助任何传统神经网络，包括大型预训练模型，能够用较少的计算量来预测不确定性的架构 ——epinet。使用 epinet，传统神经网络在预测标签上的表现优于包含数百个或更多粒子的非常大的许多集合，而且使用的计算资源和数据也大大降低了。

    Jul, 2021

  • HAPI: 硬件感知渐进推理

    本文提出了一种名为 HAPI 的新方法，通过在推理阶段与早期退出策略一起优化中间退出的放置位置，实现了高性能的早期退出网络生成。通过设计空间探索算法，我们提出了一种在各种延迟预算下始终优于其他搜索机制和最先进的早期退出方案的系统，它在强制嵌入式设备的延迟驱动 SLAs 的速度上提供了高效的方案。

    Aug, 2020

  • 早期退出网络的自适应推断：设计、挑战与方向

    该研究论文介绍了早期退出网络的设计方法和最新进展，比较了与其他高效推理解决方案的优劣，并提出了未来研究的挑战和方向。

    Jun, 2021

  • 神经网络为什么需要增加早期退出机制？

    本研究介绍了一种多输出深度神经网络，它具有提高推理速度、减少过拟合以及利用多层次计算平台的优势，并描述了在 5G 和雾计算环境中的应用场景以及相关的开放式研究问题。

    Apr, 2020

  • 通过强制条件单调性实现早期退出结构的任意时刻分类

    本研究提出了一种基于 Product-of-Experts 的修改方法，使得早期退出网络在计算过程中逐渐变得自信，并具有预测质量的条件单调性，从而在保持竞争力的前提下实现了真正的任意时间预测建模。

    Jun, 2023

  • SAE：单体架结合神经网络

    通过单个神经网络中的早期退出和多输入多输出框架，将分散的神经网络集成为一个单一的体系结构集合，提高准确度和置信度校准，并减少运算和参数量。

    Feb, 2024

  • 噪声无线信道上的自适应提前退出协同推理

    协作推理系统是在无线网络边缘部署深度神经网络的新兴解决方案之一。本研究工作通过评估不同的传输决策机制，实验证明在无线边缘上适当利用早期退出可以在图像分类任务中提供性能增益和显著的通信节省。

    Nov, 2023

  • 学习为动态早退出网络加权样本

    本文提出了一种基于样本加权的训练策略，用于桥接训练与测试时 Early exiting 行为的差距，通过联合优化权重预测网络和网络主干模型，在训练期间模拟其在推理期间的自适应行为，从而提高分类准确度和推理效率的权衡。

    Sep, 2022