- 具有全局损失收敛保证的联邦动态低秩训练
我们提出了一种联邦动态低秩训练 (FeDLRT) 方案，用于减少水平联邦学习中的客户端计算和通信成本，并在计算机视觉基准测试中证明了 FeDLRT 的效率。
- 基于特征融合的个性化联邦学习
本研究讨论了联邦学习中的数据异质性问题，并提出了一种个性化的联邦学习方法，名为 pFedPM，通过特征上传来减少通信成本和允许异构客户端模型，实验证明该方法在 MNIST、FEMNIST 和 CRIFAR10 数据集上的通信效率优于其他联邦 - FLoCoRA：具有低秩适应性的联邦学习压缩
在此研究中，我们展示了 Low-Rank Adaptation 方法在从头开始训练小尺寸视觉模型的联邦学习中的应用，通过提出一种聚合不可知方法 FLoCoRA，我们证明该方法能够减少通信成本 4.8 倍，并且对于具有 ResNet-8 模型 - 通过量化的 LoRA 技术促进联邦学习的数据和模型隐私保护
在联邦学习的背景下，我们引入一种方法来保护数据和模型的隐私，只需在训练过程中分发模型参数的量化版本。该方法结合了量化策略和 LoRA，显著降低了联邦学习中的通信成本，并且确保了数据和模型的隐私保护，同时提高了中央模型的泛化能力和资源利用效率 - EncCluster: 通过权重聚类和概率过滤在联邦学习中实现可扩展的功能加密
EncCluster 是一种新方法，通过权重聚类与最近的去中心化 FE 和增强隐私数据编码相结合，提供强大的隐私保证，同时不影响模型性能或增加客户端负担，并通过减少通信成本和加速加密来提高效率。
- 在客户端上进行修剪而不是服务器：在联邦学习中加速稀疏训练
该研究论文介绍了稀疏训练和加速通信在 Federated Learning 中的整合方法 Sparse-ProxSkip，并在大量实验证明了其良好性能。
- 联邦蒸馏：调查
该论文就联邦蒸馏（FD）提供了全面的概述，介绍了其最新进展，探讨了 FD 框架的基本原理，阐述了应对各种挑战的 FD 方法，并提供了 FD 在不同场景中的多样化应用。
- 具身 LLM 代理学会在组织团队中合作
该论文通过在大型语言模型的代理上引入基于提示的组织结构，以提高团队效率并降低沟通成本。
- FedClust: 通过权重驱动的客户端聚类优化非 IID 数据上的联邦学习
FedClust 是一种聚类联邦学习方法，利用局部模型权重和客户数据分布之间的相关性将客户分组成簇，并动态地实时适应新加入的客户，实验结果表明 FedClust 在准确性和通信成本方面优于基线方法。
- FedLion: 更快的自适应联邦优化，通信更少
FedLion 是一种自适应联邦优化算法，将 Lion 算法的关键元素无缝地应用于分布式数据训练的 Federated Learning 框架中，通过综合评估表明 FedLion 在自适应算法中胜过现有的最先进算法，并通过使用有符号梯度在本 - 通过自适应权重聚类和服务器端蒸馏实现高效通信的联邦学习
Federated Learning 的通信成本问题在该论文中通过动态权重聚类和服务器端知识蒸馏的组合方法 FedCompress 得到解决，从而实现了降低通信成本并获得高度可泛化模型的学习。
- 多智能体协作感知中的实用沟通
通过合作感知，我们提出一种多智能体合作的感知系统 PragComm，通过主动选择消息、优化消息表示和选择有益的合作者，从而降低通信成本并提高任务性能。
- LW-FedSSL：资源高效的逐层联邦自监督学习
提出一种层次化的联邦自监督学习方法 (LW-FedSSL)，通过在 FL 环境中利用资源丰富的服务器进行全局模型训练，以及在 FL 本地模型与全局模型之间建立紧密联系的表示对齐机制，实现了与端到端 FedSSL 相当的性能，同时显著降低客户 - 基于低秩训练的高效通信联邦推荐系统
在联邦推荐系统中，通信成本是一个关键瓶颈，该研究提出了一种名为 Correlated Low-rank Structure (CoLR) 的新框架，通过调整轻量级可训练参数并保持大部分参数冻结，大幅降低通信开销并与安全聚合协议兼容。该方法在 - 使用样本权重进行分布倾斜数据的联邦学习
通过使用样本权重，将客户端的数据分布调整至全局分布，从而提高联邦学习的性能，减少通信成本。
- RS-DGC: 通过探索邻域统计量对遥感影像解释的动态梯度压缩
近期，分布式深度学习在遥感应用中引起了更多的关注，其中梯度稀疏化被验证为一种有效压缩梯度的方法，以减少通信成本并加快训练速度。通过引入梯度邻域来增强梯度之间的相互依赖，并使用邻域统计指标（NSI）来定义梯度的重要性，我们提出了一种动态梯度压 - 通过散列函数降低局部差分隐私下的子图计数通信成本
使用哈希函数来减少子图在边缘局部差分隐私下的通信成本，通过将沟通成本降低为 $s^2$ 倍的采样速率方法，减少三角计数的误差 1000 倍。
- EvoFed：利用进化策略进行通信高效的联邦学习
本文提出了一种称为 EvoFed 的新方法，通过将进化策略（ES）与分布式学习（FL）相结合，解决了传统 FL 中高通信成本的问题。EvoFed 通过基于适应度的信息共享，在节点之间传递一种基于距离的相似度度量，从而大幅减少了通信负载。在实 - MMFedRec+：增强联邦推荐系统的隐私保护与异构性处理
FedRec + 是一个用于增强隐私保护和解决异构性挑战的 Federated Recommendation Systems（FRS）集成框架，通过基于特征相似性的最优子集选择生成近似最优的伪评分，利用用户本地信息，减少噪声，有效降低沟通成 - 稀疏联邦训练在物联网车辆中的目标检测
提出了一种基于联邦学习的、针对车联网的目标检测方法，在保证性能的前提下降低通信成本。