system heterogeneity | BriefGPT

关键词system heterogeneity

搜索结果 - 12

ICMLMH-pFLID：医疗数据分析的模型异构个性化联合学习：注入与蒸馏
通过使用轻量级的消息模型，Model Heterogeneous personalized Federated Learning via Injection and Distillation (MH-pFLID) 是一种新颖的联邦学习范式，
PDF2 months ago
自适应异构客户端采样用于无线网络上的联邦学习
设计适应性客户采样算法以最小化墙钟收敛时间，从而解决系统和统计异质性对联合学习过程的影响。
PDF2 months ago
FedP3：基于模型异构的联邦化个性化和隐私友好的网络剪枝
本研究关注于联邦学习中的客户端模型异质性问题，并提出了适用于模型异质性场景的有效、适应性强的联邦框架 FedP3 及其差分隐私变体 DP-FedP3，并从理论上验证了它们的高效性。
PDF3 months ago
联邦迁移学习综述：挑战、方法与应用
联邦学习（FL）是一种新颖的分布式机器学习范式，通过消除数据共享要求，使参与者能够协同训练中央模型并保护隐私。联邦学习涉及多个参与者，并要求第三方汇总全局信息以指导目标参与者的更新。为解决此问题，联邦迁移学习（FTL）吸引了众多研究者的关注
PDF4 months ago
MM自适应异构无线网络中的联邦学习与独立抽样
提出了一种新的独立客户抽样策略，旨在最小化联合系统和数据异构设计中的 FL 的墙钟训练时间，同时考虑通信和计算中的数据和系统异构。通过实验结果表明，在实际无线网络环境下，所提出的独立抽样方案在各种训练模型和数据集下显著优于当前最佳的抽样方案
PDF5 months ago
FedShift: 通过权重偏移聚合解决联邦学习的双重异质问题
FedShift 是一种新颖的算法，旨在在双重异质性情况下提高训练速度和模型的准确性，通过量化和移位技术改善客户参与度，并提升在异质性环境中的准确性 3.9%。
PDF5 months ago
FedSplitX: 计算受限异构客户的联邦分割学习
提出了 FedSplitX，一种面对异构系统的新型联合学习框架，能够有效地利用服务器资源来训练大模型，从而在模型性能上优于基准方法。
PDF8 months ago
内部跨层梯度在联邦学习中扩展同质性到异质性
基于观察，提出了一种训练方案，利用内部跨层梯度来增强深层相似性，以处理异构联邦学习的系统异质性，并验证其在实验中的有效性。
PDF10 months ago
关于预训练和初始化在联邦学习中的影响：从何开始？
本文研究了在联邦学习中使用预训练模型初始化的影响，结果显示，使用预训练模型可以减少训练时间和减小数据和系统异质性的影响，建议未来的工作应该在评估联邦优化方法时同时考虑预训练模型和随机初始化。
PDF2 years ago
异构客户端的联邦自监督学习
提出了一种名为 Heterogeneous Self-supervised Federated Learning（Hetero-SSFL）的统一框架，可以在异构客户端上进行协作表示学习，同时解决了系统异质性和标记数据匮乏等问题，并在非凸目标
PDF2 years ago
FedPrune：走向包容性联邦学习
提出了一种叫作 FedPrune 的系统，通过剪枝全局模型来解决 Federated learning 中的系统异构和统计异构所引起的问题，并利用中心极限定理的洞见来实现在非独立同分布数据上的强健性性能，并与 Federated Avera
PDF3 years ago
抗拖延分布式学习：利用统计准确性和系统异构性相互作用
本文提出了用于 Federated Learning 的一种新型抗 Straggler 算法，该算法结合客户端数据的统计特征，通过适应性选择客户端来加速学习过程并提高可伸缩性。我们的理论结果表明，相比于标准联邦基准，我们的方法对强凸目标能够
PDF4 years ago