生物医学数据点对点联邦学习中的联邦策略对比
该研究对联邦学习框架下聚合策略进行了全面的数学收敛分析,并通过与 FedAvg 进行分类任务的比较来评估其性能,得出了新的聚合算法,该算法可以通过区分客户端贡献的价值来修改其模型架构。
May, 2022
本文探讨了如何应对异构设备和用户的挑战,提出了一种新型的聚合算法 FedDist,该算法能够考虑到客户端的差异性而不影响泛化能力,并在人类活动识别普适领域上通过对比测试发现其表现更好。
Oct, 2021
本文介绍了一种名为自适应联邦平均的新型算法,该算法利用隐藏马尔可夫模型来检测参与者在训练期间提供的模型更新质量,并提出一种鲁棒聚合规则以检测和丢弃每次训练迭代中的不良或恶意本地模型更新以及阻止不需要的参与者,从而在处理噪声、故障和恶意参与者时具有更高的鲁棒性和计算效率。
Sep, 2019
物联网网络和数据处理技术的发展对分布式学习方法中的联邦学习具有巨大潜力,本论文通过两个实例展示了联邦学习在物联网网络中实现高效和保护隐私的机器学习的潜力,并通过模拟研究了隐私和准确性之间的权衡关系。
Dec, 2023
以后验推断方法为基础的联邦学习算法可以通过在客户端推断本地数据的后验分布来推断全局后验分布,而 FedPA 则提供了一种计算和通信高效的近似后验推断算法,使用 MCMC 进行客户端的近似推断。
Oct, 2020
本文提出一种基于体验回放和生成对抗网络思想的联合和分散学习策略,名为 FedER,它可以在保持隐私的同时整合本地节点的特征,提供能够横跨多个数据集的模型,以实现对结核和黑色素瘤分类的准确诊断
Jun, 2022
本文提出了一种新颖方法 - WeiAvg,利用投影估计方法来估计客户端数据的多样性,从高多样性客户端强调权重更新,减少低多样性客户端的影响,实验结果证明 WeiAvg 优于原始的 FedAvg 算法和 FedProx,能更快、更准确的达到收敛。
May, 2023
该研究调查了联邦学习(FL)这一机器学习范式,允许在不共享原始数据的设备上进行分散模型训练,从而保护数据隐私。我们比较了该范式内的两种策略:联邦平均(FedAvg)和个性化联邦平均(Per-FedAvg),重点关注它们在非独立同分布数据(Non-IID)条件下的性能。我们的分析显示,使用狄利克雷分布建模的数据异质性水平显著影响两种策略的性能,在高异质性条件下,Per-FedAvg 表现出更强的健壮性。我们的结果为在分散环境下开发更有效和高效的机器学习策略提供了见解。
Sep, 2023
本文研究了加权模型平均对任意标量均值估计问题的影响,发现加权平均模型可以减少局部模型的期望平方误差,并量化了加权模型平均的(可能为负的)益处。这项研究正式确定了一种量化协作学习个性化价值的方法,并为未来多元参数估计和基于一系列假设的检验研究提供了框架。
Oct, 2021
本篇研究讨论信息聚合问题,即在联邦决策中,一组代理协作推断自然状态而不与中心处理器或其他代理共享其私有数据。我们分析了非贝叶斯社会学习策略,其中代理将他们的个体观察结果纳入他们的观点中,中心处理器通过算术或几何平均来聚合这些观点。通过我们以前的工作,我们建立了两个聚合策略的渐进正态性的特征,并通过模拟验证了理论结果,并比较了两个策略。
Mar, 2023