Sep, 2018

边缘智能：基于间歇式嵌入式系统的推理

PDF
TL;DR该论文提出了一种新的软件系统 SONIC，该系统支持 DNN 推理，并引入一种名为 loop continuation 的技术，大幅减少了能量收集系统上正确执行 DNN 推理的成本。实验结果表明，SONIC 和 TAILS 可以实现更高的能量效率，分别将推理能量减少了 6.9 倍和 12.2 倍。
energy-harvestingiotdnn inferenceintermittent systemsenergy efficiency
发现论文，激发创造
  • 基于能源感知的早期退出实现可持续的边缘智能

    提出了一种基于动态早停止和能量感知策略的边缘智能系统，用于解决深度学习模型在能源受限设备上的能耗问题，实现高效、精准的推理，与传统的能量不感知策略相比，精度和服务率分别提高了至多 25% 和 35%。

    May, 2023

  • 硅芯片中的能效机器学习：一种启发自通信的方法

    本篇论文主张采用通信启发式方法来设计机器学习系统，分别采用确定性和随机性版本。采用此方法可以充分利用机器学习算法和应用，以解决其在能量受限制平台上部署时面临的挑战。

    Oct, 2016

  • 边缘智能：设备 - 边缘协同，按需深度学习模型协同推理

    提出了 Edgent，这是一种协作和按需的 DNN 合作推理框架，其旨在通过在设备和边缘之间自适应地分配 DNN 计算来提高实时 DNN 推理的性能，并通过在适当的中间 DNN 层进行早期退出来加速 DNN 推理。

    Jun, 2018

  • 神经形态硬件上机器学习工作量的高效部署

    本文提供了一种将预先训练的深度神经网络 (DNNs) 转换成脉冲神经网络 (SNNs) 的通用指南，并介绍了一些在神经形态硬件上部署转换后的 SNNs 的技术，可显著改进其延迟，功耗和能耗。实验结果表明，与 Intel Neural Compute Stick 2 相比，使用我们的 SNN 改进技术， Intel 的神经形态处理器 Loihi 在测试的图像分类任务中功耗降低了最多 27 倍，能耗降低了最多 5 倍。

    Oct, 2022

  • 网络边缘分层深度学习推断的案例

    本文介绍了一种新的分层推理方法（hierarchical inference），旨在解决资源受限的边缘设备上深度学习推理的精度和开销问题，同时探讨了该方法在机器故障检测和图像分类应用中的可行性和优势。

    Apr, 2023

  • Zygarde: 基于设备的时间敏感型深度推理和适应性，在间歇性供电系统上

    本研究提出一种能够适应能源情况和准确性的实时任务调度框架，解决了嵌入式平台上运行深度神经网络的实时调度问题。通过研究和模拟能量获取模式，以及精确度和执行之间的权衡，提出基于非精确计算的调度算法，并在四个数据集和六个实际应用程序中进行了测试，与传统调度器相比，减少了执行时间最多 26％，并以高达 21％的推理准确率调度了 9％-34％的更多任务。

    May, 2019

  • 边缘端物体检测的增量式知识迁移技术

    本论文提出一种系统级设计，将浅层神经网络在用户端设备上部署以检测观察环境中的对象，同时实施知识迁移机制，以在目标域发生变化时将 DNN 知识用于更新 SHNN 模型，实验表明与在用户端设备上运行深度模型相比，能够提高用户端设备的能源消耗和推断时间分别达到 78% 和 71%。

    Apr, 2020

  • 资源受限边缘推理中的通信计算权衡

    本文提出了一种有效的边缘计算推理方法，并探讨了在设备模型的计算成本和中间特征的通信成本之间进行的关键权衡。通过模型拆分点选择、通信感知模型压缩和任务导向的中间特征编码，提出了一个三步框架来有效地进行推理，实验结果表明，与基准方法相比，我们的提出的框架具有更好的权衡，可以显著减少推理延迟。

    Jun, 2020

  • 边缘设备上实现深度学习

    本论文探讨了 DNN 在资源受限的边缘设备上部署的优化问题，并研究了四种边缘智能场景下的深度学习方法，通过减少 DNN 冗余度来达到资源消耗与模型准确度之间的平衡。

    Oct, 2022

  • 通过有向信息瓶颈的神经形态学无线设备边缘协同推断

    下一代无线系统的重要应用是设备边缘协同推理，其中语义任务在设备和边缘服务器之间进行划分。该论文提出了一种新的系统解决方案，称为神经形态的无线设备边缘协同推理，旨在用神经形态硬件运行设备的感知、处理和通信单元，而服务器使用传统的无线电和计算技术，并通过以发射机为中心的信息论准则设计，以减少通信开销，同时保留与感兴趣的端到端语义任务相关联的最重要信息。标准数据集的数值结果验证了所提出的架构，并报告了初步的实验测试。

    Apr, 2024