May, 2019

Zygarde: 基于设备的时间敏感型深度推理和适应性，在间歇性供电系统上

PDF
TL;DR本研究提出一种能够适应能源情况和准确性的实时任务调度框架，解决了嵌入式平台上运行深度神经网络的实时调度问题。通过研究和模拟能量获取模式，以及精确度和执行之间的权衡，提出基于非精确计算的调度算法，并在四个数据集和六个实际应用程序中进行了测试，与传统调度器相比，减少了执行时间最多 26％，并以高达 21％的推理准确率调度了 9％-34％的更多任务。
soft real-time task schedulingbatteryless systemsdeep learningenergy harvesting patternimprecise computing-based scheduling algorithm
发现论文，激发创造
  • 基于时间编码的深度强化学习在嵌入式设备上的实时应用 CPU 频率调度

    在本研究中，我们专注于为小型设备开发高效的功耗管理方法，通过使用基于强化学习和时间编码的技术从三种具有挑战性的工作负载 / 系统模式中导出一个有效的 DVFS 调度器，该调度器仅使用一个性能计数器并能适应性能需求，在能源节约方面优于内置的 Linux 方法。

    Sep, 2023

  • 边缘智能：基于间歇式嵌入式系统的推理

    该论文提出了一种新的软件系统 SONIC，该系统支持 DNN 推理，并引入一种名为 loop continuation 的技术，大幅减少了能量收集系统上正确执行 DNN 推理的成本。实验结果表明，SONIC 和 TAILS 可以实现更高的能量效率，分别将推理能量减少了 6.9 倍和 12.2 倍。

    Sep, 2018

  • 面向延迟的物联网任务调度的深度强化学习在空天地一体化网络中的应用

    本文旨在设计一种任务调度策略，以最小化所有任务的离线和计算延迟，同时满足无人机能源容量约束下的延迟导向物联网服务需求，并考虑到任务到达动态变化的情况，提出了基于风险敏感的强化学习算法来解决能耗风险约束下的决策问题。

    Oct, 2020

  • 最大推理准确性和能效的选择性任务卸载用于实时物联网感知系统

    通过提出轻量级混合遗传算法来解决小型推理模型在边缘设备上动态分配推理任务以最大化推理准确度的问题，并与其他演化方法进行比较。

    Feb, 2024

  • 基于无电源嵌入式系统的内存高效、能量适应的预训练模型推理

    提出了一种名为 FreeML 的框架，旨在优化预训练的深度神经网络模型，以在电池无需设备上进行内存高效和能量自适应的推理，通过使用压缩技术减小模型尺寸，并引入早期终止机制以实现能量自适应推理，同时最小化内存开销。

    May, 2024

  • 基于深度强化学习的物联网驱动智能孤岛微电网最优调度

    本文使用深度强化学习技术研究了 IoT 驱动孤立微电网中柴油发电机（DG）的调度问题。旨在在可再生能源不确定性情况下充分利用可再生能源，通过离散 - 连续混合动作空间的 DRL 算法解决了二进制 DG 开关决策和连续能量调度决策，并针对旋转备用的情况提出了 POMDP 模型，实验显示其性能要优于同类算法。

    Apr, 2023

  • 基于能源感知的早期退出实现可持续的边缘智能

    提出了一种基于动态早停止和能量感知策略的边缘智能系统，用于解决深度学习模型在能源受限设备上的能耗问题，实现高效、精准的推理，与传统的能量不感知策略相比，精度和服务率分别提高了至多 25% 和 35%。

    May, 2023

  • 极弱设备上的实时神经网络推断：可解释人工智能的灵活卸载

    通过利用 `eXplainable AI` 技术，在训练阶段明确强制规定特征的稀疏性，并最小化在线计算和通信开销，以实现弱嵌入式设备上的实时神经网络推断。

    Dec, 2023

  • 边缘智能：设备 - 边缘协同，按需深度学习模型协同推理

    提出了 Edgent，这是一种协作和按需的 DNN 合作推理框架，其旨在通过在设备和边缘之间自适应地分配 DNN 计算来提高实时 DNN 推理的性能，并通过在适当的中间 DNN 层进行早期退出来加速 DNN 推理。

    Jun, 2018

  • 神经形态硬件上机器学习工作量的高效部署

    本文提供了一种将预先训练的深度神经网络 (DNNs) 转换成脉冲神经网络 (SNNs) 的通用指南，并介绍了一些在神经形态硬件上部署转换后的 SNNs 的技术，可显著改进其延迟，功耗和能耗。实验结果表明，与 Intel Neural Compute Stick 2 相比，使用我们的 SNN 改进技术， Intel 的神经形态处理器 Loihi 在测试的图像分类任务中功耗降低了最多 27 倍，能耗降低了最多 5 倍。

    Oct, 2022