通过边缘 PRUNE 框架实现容错协同推理
PATROL 是一种可行的解决方案,它通过引入两个关键组件:Lipschitz 正则化和对抗重构训练,以实现面向隐私的修剪,从而在保护隐私的同时提高推断模型的稳定性和准确性。
Jul, 2023
本文提出了一种高效、灵活的 DNN 分区方法,通过迭代删除不重要的卷积层过滤器进行剪枝,从而减少移动设备的无线传输负担或总计算负担,并能够自动选择满足各种延迟和准确性要求的修剪过的模型。实验表明,与未剪枝的原始 DNN 模型相比,该框架在传输负载上可实现多达 25.6 倍的降低,总计算速度加快了 6.01 倍,端到端延迟降低了 4.81 倍。
Mar, 2019
本文介绍了一种名为 PrivaScissors 的防御策略,可通过降低模型中间结果与设备数据、预测之间的互信息来增强协作推理的隐私性,经在多个数据集中进行攻击测试,具备理论上的鲁棒性保证。
May, 2023
提出了一种基于联邦元学习的平台辅助协作学习框架,用于解决物联网边缘节点受限计算资源和数据局限性的问题,并实现了针对边缘目标节点的快速任务适应。此外,还提出了基于分布式鲁棒优化的鲁棒性联邦元学习算法,并在数据集上展示了其有效性。
Jan, 2020
本文主要研究在边缘计算环境中使用分布式梯度下降学习模型参数的问题,提出控制算法以最小化给定资源预算下的损失函数,并通过真实数据集的大量实验评估算法性能。
Apr, 2018
协作推理系统是在无线网络边缘部署深度神经网络的新兴解决方案之一。本研究工作通过评估不同的传输决策机制,实验证明在无线边缘上适当利用早期退出可以在图像分类任务中提供性能增益和显著的通信节省。
Nov, 2023
本文提出了一种利用循环神经网络(RNN)预测边缘资源使用情况和触发主动节点复制和任务迁移的智能主动容错(IPFT)方法,同时使用创新的混合贝叶斯进化策略(HBES)算法自动适应资源使用模型,实验结果表明该方法可显著提高可靠性和可维护性。
Feb, 2023
通过引入深度模型增强方案 deepFogGuard,我们提出了一个用于防止分布式深度神经网络 (DDN) 推理任务失败的模型,该模型使用分配的跳过超链接作为设计基础,并使用两个真实数据集进行了 extensive 的实验证明。
Sep, 2019
本文提出了一种有效的边缘计算推理方法,并探讨了在设备模型的计算成本和中间特征的通信成本之间进行的关键权衡。通过模型拆分点选择、通信感知模型压缩和任务导向的中间特征编码,提出了一个三步框架来有效地进行推理,实验结果表明,与基准方法相比,我们的提出的框架具有更好的权衡,可以显著减少推理延迟。
Jun, 2020
通过将人工智能(AI)与边缘计算相结合,边缘智能利用终端设备和边缘服务器的计算和通信能力,在数据产生的地方进行处理,从而实现人工智能的大规模和高效部署。其中一项关键技术是隐私保护的机器学习范式 Federated Learning(FL),该范式使数据所有者能够在无需将原始数据传输到第三方服务器的情况下训练模型。然而,FL 网络预计涉及成千上万个异构分布式设备,因此通信效率仍然是一个关键瓶颈。为了减少节点故障和设备退出,提出了一种分层联邦学习(HFL)框架,其中指定的集群领导者通过中间模型聚合支持数据所有者。因此,基于改进的边缘服务器资源利用,本文可以有效弥补缓存容量的限制。为了减轻软点击对用户体验质量(QoE)的影响,作者将用户 QoE 建模为综合系统成本。为解决这个公式化问题,作者提出了一种具有联邦深度强化学习(DRL)和联邦学习(FL)的分散式缓存算法,其中多个代理独立学习并做出决策。
Mar, 2024