Jul, 2024

MTL-Split：利用分布式计算的边缘设备多任务学习

PDF
TL;DR在本研究中，我们提出了一种名为 MTL-Split 的创新架构，以解决如何让多任务 DNN 在 Split Computing 框架内进行部署的问题，并展示了在合成和真实数据上的令人鼓舞的结果。
split computingdeep neural networkedge deviceremote servermulti-task learning
发现论文，激发创造
  • 分裂计算和提前退出在深度学习应用中的应用：调研和研究挑战

    介绍了在移动设备中使用深度神经网络技术的优劣，提出了通过分割计算和提前结束计算的方法，将深度神经网络分别部署在移动设备和云 / 边缘服务器上，最终可减少带宽和能耗，同时提高精度并根据当前需求调节精度与延迟之间的平衡。

    Mar, 2021

  • 高效的深度边缘智能动态分割计算

    本研究提出了一种基于动态选择拆分位置的动态拆分计算模型，通过利用现代深度神经网络结构中已有的瓶颈，避免了重新训练和超参数优化，并没有对深度神经网络的最终准确性产生任何负面影响。大量实验证明，动态拆分计算模型在边缘计算环境中可以实现更快的推理。

    May, 2022

  • 无线通信网络中加速的分裂式联邦学习

    本文介绍了一种模型分区 / 切割的方法，将深度神经网络切分为两个部分，分别在设备和服务器上进行联合训练和联合推理，旨在通过交替优化解决划分点选择和带宽分配问题，以最小化系统的延迟

    Oct, 2023

  • SplitPlace: 移动边缘环境中大规模神经网络的 AI 增强分裂和放置

    这篇论文提出了一种基于强化学习的 AI 策略 SplitPlace，可以智能决策基于边缘计算的需求，采用分层或语义分割策略，对神经网络进行分割并将其部署在资源受限的移动边缘设备上，实现高效可扩展的计算。实验表明，SplitPlace 可以显著提高平均响应时间、截止日期违规率、推断准确度和总奖励达 46％，69％，3％和 12％。

    May, 2022

  • 非联邦多任务分割学习的异构源

    边缘网络和移动计算的发展需要设计新的分布式机器学习机制来服务于异构数据源。本文提出了一种多任务分割学习（MTSL）框架，结合了分割学习（SL）的优点和分布式网络架构的灵活性，以实现高效处理异构数据源的多任务学习，具有快速收敛、低通信成本和对异质数据的鲁棒性等优势。

    May, 2024

  • 6G 边缘网络中的分布式学习

    本文主要介绍了在 6G 移动网络时代，如何将分布式边缘计算资源与联邦学习相结合，并引入分裂学习以处理海量资源受限的物联网设备，重点讨论边缘分裂学习及其在多边缘协作与移动管理中的设计问题与待解决的开放性问题。

    Jun, 2023

  • SplitNets：面向头戴系统的高效分布式计算神经网络设计

    在给定的硬件资源约束下，我们设计了深度神经网络，对应的网络拆分来将 DNN 的工作负载分配到摄像头传感器和中央聚合器上的头戴设备上，以满足系统性能目标，通过 SplitNets 框架进行模型设计、拆分和通信减少，进一步扩展框架用于多视图系统，以实现从多个相机传感器中输入的最佳性能和系统效率的融合学习，并在 ImageNet 和 3D 分类的单视图及多视图系统上验证拆分网络的表现优于现有方法。

    Apr, 2022

  • SplitEE：深度神经网络中的分割计算早期退出

    将早期退出和拆分计算相结合，开发了一种在线无监督学习算法 SplitEE，通过在资源受限设备中选择性计算和外部计算，实现了大幅降低成本（>50%）并略微降低准确性（<2%）的效果。

    Sep, 2023

  • 面向带宽和资源受限的物联网系统的灵活分割 DNN 的精简编码器

    在边缘计算和分布式计算的背景下，通过使用基于可改变编码器的分层执行，我们提出了一种创新的拆分计算方法，该方法可以实时适应计算负载和传输的数据大小，而不会对移动设备造成太大的计算负荷，从而提高了压缩效率和执行时间。

    Jun, 2023

  • Auto-Split：协同边缘云 AI 的通用框架

    探讨了华为云的 Auto-Split 系统采用的边缘 - 云协作技术，实现了高效的深度学习模型部署和推理，为行业级应用提供新的解决方案。

    Aug, 2021