基于能源感知的早期退出实现可持续的边缘智能
人工智能(AI)技术已成为众多行业的关键驱动力,包括消费电子、医疗保健和制造业,主要得益于过去十年间的复苏。AI 的变革力量主要来自于深度神经网络(DNN)的应用,其需要大量的训练数据和大量的计算资源进行处理。然而,由于与云通信相关的潜在延迟问题,深度学习(DL)工作流越来越多地过渡到靠近终端用户设备(EUDs)的无线边缘网络上。这种转变旨在支持对延迟敏感的应用,并催生了边缘 AI 的新范式,这将在即将到来的 6G 网络中支持无处不在的 AI 应用。尽管具有潜力,但边缘 AI 面临重大挑战,主要是由于无线边缘网络的资源限制和 DL 的资源密集性之间的矛盾。为确保性能既最佳又可持续,这需要对边缘 AI 采取注重能源的方法。因此,本文提供了关于绿色边缘 AI 的现代综述。我们首先分析了边缘 AI 系统的主要能源消耗组成部分,以确定绿色边缘 AI 的基本设计原则。在这些原则的指导下,我们进一步探讨了边缘 AI 系统中三个关键任务的能效设计方法,包括训练数据获取、边缘训练和边缘推理。最后,我们强调了进一步增强边缘 AI 能效的潜在未来研究方向。
Dec, 2023
借鉴人脑的高效率和低功耗,本文提出了一种基于预测编码理论和动态提前终止的浅双向网络,以加入硬件有限资源在设计过程中,实现在 CIFAR-10 图像分类上与 VGG-16 相当准确率的结果,使用更少的参数和较低的计算复杂度。
Sep, 2023
在本文中,我们提出了一种能够平衡应用目标与能耗的采用能量感知方法的自适应 AI 应用程序的设计和部署方法,通过元启发式搜索过程确定可用于自适应系统的配置集合,并使用加权灰色关联分析将最终的配置映射到自适应应用程序的操作模式,验证结果表明,我们的自适应应用程序在节省高达 81% 的能源的同时,仅在准确率上损失了 2% 至 6%。
Aug, 2023
本研究通过测量、预测和评分等三个方面的研究,揭示了边缘设备中深度学习的能量消耗特征,并设计了基于内核级能量数据集的边缘设备上的内核级能量预测器,最后引入了两个评分指标,旨在将复杂的边缘设备功耗和能量消耗数据转化为易于理解的形式,以推动边缘计算中的可持续发展思维。
Oct, 2023
该论文提出了一种新的软件系统 SONIC,该系统支持 DNN 推理,并引入一种名为 loop continuation 的技术,大幅减少了能量收集系统上正确执行 DNN 推理的成本。实验结果表明,SONIC 和 TAILS 可以实现更高的能量效率,分别将推理能量减少了 6.9 倍和 12.2 倍。
Sep, 2018
本文研究小型 IoT 系统中的能量收集、访问控制和电池预测问题,提出了基于强化学习和深度 Q 网络的三种算法,实验结果表明这些算法在性能上比现有基准方法更优秀。
May, 2018
本文介绍了一种新的分层推理方法(hierarchical inference),旨在解决资源受限的边缘设备上深度学习推理的精度和开销问题,同时探讨了该方法在机器故障检测和图像分类应用中的可行性和优势。
Apr, 2023
本文研究无线网络中具备能量收割功能和多个 MEC 设备 (IoT) 的计算卸载,提出了基于强化学习的计算卸载框架,包括基于 Q-learning 的 hotbooting 计算卸载方案和基于 DQN 的快速计算卸载方案,针对不同的 MEC 场景给出了性能界限,并使用模拟结果验证算法效果。
Dec, 2017
本文研究了可穿戴设备可持续运营的问题,提出了一种自适应能源管理算法 AdaEM,使用机器学习方法学习用户活动和能源使用模型,并用动态鲁棒优化 (DyRO) 来优化能源管理决策,实验数据表明 AdaEM 能够达到接近最优解的效果。
Jan, 2022
本论文探讨了 DNN 在资源受限的边缘设备上部署的优化问题,并研究了四种边缘智能场景下的深度学习方法,通过减少 DNN 冗余度来达到资源消耗与模型准确度之间的平衡。
Oct, 2022