- 拥抱联邦学习:通过部分模型训练实现弱客户参与
EmbracingFL 是一种分布式学习方法,基于一种新型的部分模型训练方法,允许所有可用的客户端参与分布式训练,改进了 Federated Learning 的效率。
- 高效通信与隐私保护的分散化元学习
在这篇论文中,我们提出了一种名为 LoDMeta(本地分布式元学习)的方法,利用本地辅助优化参数和模型参数的随机扰动来降低通信成本并提高数据隐私保护。理论结果和实证结果都表明,LoDMeta 与集中式元学习算法相比具有相似的元学习准确性,但 - MM基于边缘设备的分布式学习的分层梯度编码设计与优化
通过引入边缘节点作为额外的中间层,本文探讨了在分层分布式学习系统中缓解滞后效应的问题,首先推导了工作节点的计算负载和滞后者容忍度之间的基本权衡关系,然后提出了一种层级渐进编码框架,以实现所得到的计算权衡。为了在异构场景中进一步提高我们的框架 - 垂直联邦学习的效果、安全性、适用性调查
纵向联邦学习是一种隐私保护的分布式学习范式,不泄露私密数据的情况下,不同参与方通过使用共享样本的分区特征协同学习模型。本文对纵向联邦学习的最新发展进行了系统概述,并提出了几个关键的未来研究方向,以促进该领域的发展。
- 分布式持续学习
分布式继续学习研究了多智能体在其环境中独立面对独特任务并逐步开发和分享知识的交叉点。通过引入数学框架,捕捉了分布式继续学习的关键方面,包括智能体模型和统计异质性、持续分布转移、网络拓扑和通信限制。我们提出了三种信息交换模式:数据实例,完整模 - 云、移动和边缘环境中的分布式学习综述
在深度学习、卷积神经网络和大型语言模型的时代,机器学习模型变得越来越复杂,需要大量的计算资源进行推理和训练。为了解决这个挑战,分布式学习已经成为一种关键方法,通过在各种设备和环境中进行并行化来实现。本调查研究对分布式学习的领域进行了探索,涵 - 基于 ADMM 的分布式事件驱动学习
分布式学习问题中,通过在网络上交换信息,代理可以最小化全局目标函数。我们的方法具有两个显著特点:只在必要时触发通信以大幅减少通信量,并且对于不同代理的本地数据分布置之不理。我们分析了算法的收敛速度并在凸设置中导出了加速收敛速率。我们还表征了 - 可解释的分布式学习中的数据融合:一种代表性的梯度匹配方法
该论文介绍了一种基于代表性的分布式学习方法,将多个原始数据点转化为虚拟表示。相比于传统的分布式学习方法如联邦学习,该方法能使复杂的机器学习过程可解释且易懂,通过将庞大的数据集压缩成可理解的格式来促进人机直观交互。此外,该方法能保持隐私和通信 - 蛇形学习:6G 通信与计算高效分布式学习框架
本研究介绍了一种成本效益高的分布式学习框架 Snake Learning,它在 6G 网络中考虑了计算能力的异构性和本地数据分布,通过逐层更新机制显著降低了存储、内存和通信需求,在计算机视觉和大型语言模型任务中展现了出色的适应性和效率。
- Wi-Fi AP 负载预测的分布式学习
通过研究分布式学习的两个基本方法 —— 联邦学习(FL)和知识蒸馏(KD)在 Wi-Fi 接入点(AP)负载预测用例上的应用,本文证明了分布式学习可以将集中式机器学习解决方案的预测准确性提高 93%,并将通信开销和能源成本降低 80%。
- 上下文感知的能效传闻学习方案的编排
通过优化的 Gossip Learning(OGL)实现分布式学习,减少能耗并在动态网络中实现目标准确度。
- CoRAST:面向资源受限的 CPS 和 IoT 的基础模型驱动的相关数据分析
利用 CoRAST 框架的环境表示学习,对分布式,相关的异构数据进行分析,从而减少天气预报误差,比基线模型降低了 50.3%。
- 基于联合投票的 SignSGD
分布式学习中的通信延迟问题和异构的小批量大小对收敛速度的影响,通过引入权重学习及加权多数投票的 signSGD-FV 算法进行优化,该算法具有理论上的收敛保证并在异构小批量大小下表现出更快的收敛速度。
- 基于 1 位梯度编码的分布式学习在滞后者存在下的应用
本文研究了分布式学习在存在迟滞节点的情况下的问题,提出了一种基于 1-bit 梯度编码的新的分布式学习方法,通过降低通信开销,在相同的通信开销下获得更好的学习性能。
- DiPrompT:分解的提示调节在联邦学习中用于多个潜在域泛化
通过学习自适应提示,采用分布式学习的方式,提出了一种高效而新颖的方法 DiPrompT,解决了现有联邦学习方法中对域标签的限制问题,实现了优秀的域泛化性能和超越中心化学习方法的结果。
- 基于 RIS 的城市空中交通分布式学习拓扑控制
本文通过利用可重构智能表面(RIS)的拓扑属性来促进学习性能并获得收敛保证,探索了分布式学习的相关问题,并提出了用于优化传输延迟和收敛速度的几个联邦学习拓扑准则。同时,本文还开发了基于深度确定性策略梯度的 RIS 相移控制算法,以同时构建或 - SoK:联邦反学习的挑战与机遇
这篇论文从事一项关于联邦消除学习(federated unlearning)的研究,通过对已发表的联邦学习消除(FL unlearning)相关论文的分类和分析,探讨了联邦学习消除领域的研究趋势和挑战,比较了现有联邦学习消除方法的影响消除和 - 带剪裁的随机梯度下降法秘密估计中位数梯度
基于中位数估计的坚实梯度方法在随机梯度下降算法中能够应对重尾、状态相关性噪声,在分布式学习、隐私约束等领域有广泛应用。本研究在采样、几何中位数计算及迭代中都提出了基于中位数梯度估计的方法,并发现多种已知算法可看作此方法的特例。
- 分布式学习中的私有知识共享:一项调研
人工智能的崛起已经在许多行业中引发了革命性的变革,其广泛应用导致了 AI 和其底层数据在许多智能系统中的分布。本文针对分布式学习中的私有知识共享提供了一项深入调查,检验了在主要的分布式学习架构中使用的各种知识组件。通过分析,我们揭示了在分布 - 在分布式学习中管理重尾梯度的改进量化策略
我们提出了一种专门针对重尾梯度进行压缩的新方案,该方案将梯度截断和量化有效地结合在一起,并在通信受限的分布式随机梯度下降框架中进行了巧妙实现,我们通过理论分析和与其他基准的比较实验证明了该方法在管理分布式学习环境中的重尾梯度方面的有效性。