Feb, 2018

具备特征空间编码的深度神经网络边缘 - 主机分区在资源受限的物联网平台上的应用

PDF
TL;DR本文介绍了在物联网环境中，将深度神经网络的推断任务在边缘和主机平台之间进行分区，并提出了通过特征空间编码来提高边缘平台的最大输入速率和 / 或降低边缘平台的能量消耗的方法。模拟结果表明，在卷积层的末端对 DNN 进行划分并配合特征空间编码能够显着提高能效和吞吐量。
deep neural networkiotedge platformfeature space encodingenergy-efficiency
发现论文，激发创造
  • 云、边缘和终端设备上的深度神经网络分区调研

    本篇文章详细调研了针对云、边缘和端设备中的深度神经网络划分方法的最近进展和挑战，并提出了一个基于五维分类框架的统一数学模型，以及一组用于比较和评估这些方法的度量标准。

    Apr, 2023

  • 边缘智能：设备 - 边缘协同，按需深度学习模型协同推理

    提出了 Edgent，这是一种协作和按需的 DNN 合作推理框架，其旨在通过在设备和边缘之间自适应地分配 DNN 计算来提高实时 DNN 推理的性能，并通过在适当的中间 DNN 层进行早期退出来加速 DNN 推理。

    Jun, 2018

  • 面向带宽和资源受限的物联网系统的灵活分割 DNN 的精简编码器

    在边缘计算和分布式计算的背景下，通过使用基于可改变编码器的分层执行，我们提出了一种创新的拆分计算方法，该方法可以实时适应计算负载和传输的数据大小，而不会对移动设备造成太大的计算负荷，从而提高了压缩效率和执行时间。

    Jun, 2023

  • 边缘设备上实现深度学习

    本论文探讨了 DNN 在资源受限的边缘设备上部署的优化问题，并研究了四种边缘智能场景下的深度学习方法，通过减少 DNN 冗余度来达到资源消耗与模型准确度之间的平衡。

    Oct, 2022

  • 资源受限边缘推理中的通信计算权衡

    本文提出了一种有效的边缘计算推理方法，并探讨了在设备模型的计算成本和中间特征的通信成本之间进行的关键权衡。通过模型拆分点选择、通信感知模型压缩和任务导向的中间特征编码，提出了一个三步框架来有效地进行推理，实验结果表明，与基准方法相比，我们的提出的框架具有更好的权衡，可以显著减少推理延迟。

    Jun, 2020

  • 隐私保护的融合增强型深度神经网络边缘云融合框架

    本文提出了一种通过差分隐私保护技术，结合深度神经网络、迁移学习和集成学习，实现在医疗保健领域下针对物联网、边缘计算和云计算融合的框架。该框架可用于在边缘服务器上进行本地模型训练以提高模型精度，并通过集成多个本地模型生成高精度的最终模型，同时保护敏感的私人数据。

    May, 2023

  • 面向资源受限的边缘计算系统的受监督压缩

    本研究旨在通过利用知识蒸馏和神经图像压缩的思想，采用先进的监督压缩方法，使用带有随机瓶颈的教师模型和学生模型，以及可学习的熵编码先验方法来更高效地压缩深度学习的中间特征表示。我们在三个视觉任务上将我们的方法与各种神经图像和特征压缩基线进行比较，并发现我们的方法在保持端到端时延更小的情况下，实现了更好的受监督的率失真性能。我们还展示了学习到的特征表示可以调整为服务于多个下游任务。

    Aug, 2021

  • 一种面向边缘低延迟和高能效的 DNN 推理的转换自编码器

    提出了一种基于自动编码器和轻量级 DNN 的新颖方法，用于在资源受限的边缘设备上减少推理时间和能源消耗，实验证明其在推理延迟上可以获得高达 4.8 倍的加速，并且在准确率方面保持相似或更高的情况下降低了 79％的能源使用。

    Mar, 2024

  • 物联网作为深度神经网络

    本文研究了如何通过深度神经网络的测量压缩和推理，实现 IoT 数据通信的有效率，并在实验中取得了 96% 的数据传输量节省和 2.5% 推理准确度下降的成果。

    Mar, 2020

  • 分区策略对边缘分布式 CNN 推理能耗的影响

    本文研究和比较了在边缘部署大型 CNN 模型进行分布式推断时，利用四种划分策略对 CNN 模型推断造成的每个设备的能量消耗量，并旨在找出哪种划分策略（以及在什么条件下）可以在分布式系统中降低边缘设备的能耗。

    Oct, 2022