移动边缘网络中绿色联邦生成扩散的按需量化
本研究探讨了一种基于定点神经网络的低能耗联邦学习框架,通过使用多目标优化策略和 Nash 协商解来平衡数据的精度和能耗之间的取舍,从而实现在收敛速度和能耗上的双重收益。模拟结果表明,该方法能够将能耗降低 70%,收敛速度不受影响。
Jul, 2022
本文旨在将联邦学习引入未来无线网络的设计中,为了在移动设备上进行能源高效的联邦学习提出了一种新颖的无线传输和权重量化的联合设计方法。通过建立混合整数规划问题,制定了灵活的权重量化计划,以最小化所有移动设备的联邦学习总能耗(计算 + 传输),同时保证模型性能和训练延迟。通过大量的模拟实验,验证了该方案的有效性。
Dec, 2020
本文关注如何提高 5G 手机上基于联邦学习的机器学习的能效,探讨了图形处理单元计算和无线传输的能耗模型,以及梯度稀疏化、权重量化、修剪等多种能效学习技术,最终指出了未来几个研究方向。
Jan, 2021
本文提出了一种新的框架,叫做联合边缘智能(FEI),以评估物联网网络的能量成本和边缘服务器的本地数据处理能力,从而使边缘服务器适时地请求足够训练令人满意的模型所需的数据。同时,本文引入了映射函数来评估边缘服务器的计算负载,最后采用基于 ADMM 的方法来优化物联网网络的能量成本和边缘服务器的平均计算资源利用率。该文证明,所提出的算法不会泄露任何数据,也不会泄漏物联网网络的拓扑信息。仿真结果表明,FEI 框架可以在有限的牺牲模型收敛性能的情况下,显著提高物联网网络和边缘服务器的资源效率。
Nov, 2020
将生成式人工智能(GAI)与边缘计算网络结合,提出了生成式移动边缘网络的概念,并概述了广泛采用的 GAI 技术及其在移动边缘网络中的应用。在资源受限场景下,通过设计资源高效的方法、制定适当的激励机制以及利用生成扩散模型(GDMs)找到最优的激励机制解决方案,解决了生成式移动边缘网络面临的挑战。通过案例研究提出了一种模型分区的方法以实现智能任务卸载,并提出了基于 GDM 的 Stackelberg 模型来激励边缘设备为移动边缘智能提供计算资源。最后,提出了几个能够促进生成式移动边缘网络未来发展的方向。
Dec, 2023
本文主要研究在边缘计算环境中使用分布式梯度下降学习模型参数的问题,提出控制算法以最小化给定资源预算下的损失函数,并通过真实数据集的大量实验评估算法性能。
Apr, 2018
通过使用量化的综合方法,联合上下行适应性量化以减少通信开销,我们优化了学习收敛性,并通过确定最优的上行和下行量化位数进行了通信能量约束。实验结果表明,所提出的联合上行和下行适应性量化策略与现有方案相比,能够节省高达 66.7% 的能量。
Jun, 2024
本文研究如何通过三个方面的优化措施 —— 激励机制设计、网络资源管理和个性化模型优化,有效解决分布式人工智能范例中面临的系统和统计异构挑战,从而实现对第六代网络中亿万智能物联网设备所产生数据的联合学习和隐私保护。
Mar, 2023
本文提出了一个基于固定精度的 QNN 的量化 FL 框架,从而在保证收敛的前提下,优化了精度与能耗之间的平衡,实现了在无线网络上的 FL,且相比标准 FL 算法,能耗降低了最多 53%
Nov, 2021
本文提出了一种基于分层随机梯度量化的边缘机器学习框架,并研究了其对学习性能的影响,包括量化误差和通信开销的降低。该方案采用了分层结构和基于矢量的量化,同时引入了一个位分配方式来保证量化精度,该方案能够在保证学习准确性的前提下显著减少通信开销。
Oct, 2019