BriefGPT.xyz
大模型
Ask
alpha
关键词
client-drift
搜索结果 - 4
DRAG: 基于差异的适应性聚合在非 IID 数据上的联邦学习
基于梯度下降的分布式学习算法在通信效率方面取得了一定的成果，但由于异构数据分布引起的工作节点的‘客户端漂移’现象导致收敛速度减慢。为解决此问题，本文提出了一种称为‘分歧度量’的新指标，并通过该指标引入了一种自适应聚合算法，该算法可以在每一轮
→
PDF
10 months ago
透過階段式鬆動初始化了解聯邦學習中的一致性運作
本文介绍了一种能够解决来自客户端之间不一致性问题的联邦学习算法，即使在不同数据集情况下，也能够提高其本地一致性水平和性能表现水平。
PDF
a year ago
自适应自蒸馏下的异构数据联邦学习
提出了一种新的自适应自蒸馏（ASD）正则化技术，针对联邦学习（FL）中不同客户端观察到的本地数据分布的异质性问题，在客户端上进行训练模型并适应性地调整以接近全局模型，此技术可用于现有的状态 - of-the-art FL 算法中，显著提高算
→
PDF
a year ago
ICML
SCAFFOLD：面向联邦学习的随机控制平均算法
通过引入控制变量技术，我们提出了一种新的算法（SCAFFOLD），减轻了 FedAvg 在异构数据（non-iid）上的不稳定性和慢收敛问题，从而使其需要的通信轮次大大减少，在分布式优化中新的成果是我们证明了 SCAFFOLD 可以利用客户
→
PDF
5 years ago
Prev
Next