SplitAVG: 一种针对医学影像的异构感知联邦深度学习方法

Jul, 2021

SplitAVG: 一种针对医学影像的异构感知联邦深度学习方法

SplitAVG: A heterogeneity-aware federated deep learning method for medical imaging

Miao Zhang, Liangqiong Qu, Praveer Singh, Jayashree Kalpathy-Cramer, Daniel L. Rubin

TL;DR本文提出了一种新的异构感知联邦学习方法 SplitAVG，通过利用网络分割和特征图拼接策略，鼓励联邦模型训练目标数据分布的无偏估计器，与其他方法相比，该方法可以有效地克服来自不同医学机构的数据分布异质性所带来的性能下降，并可泛化到各种类型的医学图像任务。

Abstract

federated learning is an emerging research paradigm for enabling collaboratively training deep learning models without sharing patient data. However, the data from different institutions are usually heterogeneous across institutions, which may reduce the performance of models trained u

federated learning data heterogeneity splitavg unbiased estimator medical imaging tasks

发现论文，激发创造

适应质量的分裂联邦学习用于医学图像分割与不准确注释

本文提出了一种名为 QA-SplitFed 的数据质量自适应平均策略，用于解决 SplitFed Learning 中多个客户端标注不一致问题。在人类胚胎图像分割任务中，实验结果表明 QA-SplitFed 方法可以有效地处理多个存在数据污染的客户端的情况。

Apr, 2023

FedClassAvg: 异构神经网络的个性化联邦学习中局部表示学习

本研究提出一种名为联邦分类器平均（FedClassAvg）的个性化联邦学习方法，通过聚合分类器权重以增强特征空间的决策边界来使得有不同神经网络架构、实现非独立同分布数据（non-iid）学习任务的客户端可以学习稀缺标签，同时应用本地特征表示学习来稳定决策边界并利用局部特征提取能力提升客户端的表现，相较于已有方法仅要求客户端通信少量全连接层，因此高度通信效率，而且不需要额外的优化问题和计算开销，且在异构性个性化联邦学习任务方面表现优于现有最先进算法。

Oct, 2022

基于梯度蒙版的联邦学习平均化

本文提出了一种基于梯度遮蔽平均的联邦学习方法，该方法通过学习恒定的不变机制来忽略异构性数据中不同的机制，避免因为主导客户端的偏见导致的信息损失和泛化性能不佳，实验证明该方法在非独立同分布数据集上提供了一致的改进。

Jan, 2022

关于异构数据下联邦平均的非常高效性

这篇论文解释了之前理论预测与实际表现矛盾的问题，发现数据异质性对于 FedAvg 算法的收敛效率影响要小于之前理论预测，通过引入新的指标（即平均漂移值）重新理论分析 FedAvg 算法，发现其在实际应用中的表现能够和同构的数据集一样并获得了成功。

Jun, 2022

Dirichlet 分布异构数据的 FedAvg 和 Per-FedAvg 算法的比较评估

该研究调查了联邦学习（FL）这一机器学习范式，允许在不共享原始数据的设备上进行分散模型训练，从而保护数据隐私。我们比较了该范式内的两种策略：联邦平均（FedAvg）和个性化联邦平均（Per-FedAvg），重点关注它们在非独立同分布数据（Non-IID）条件下的性能。我们的分析显示，使用狄利克雷分布建模的数据异质性水平显著影响两种策略的性能，在高异质性条件下，Per-FedAvg 表现出更强的健壮性。我们的结果为在分散环境下开发更有效和高效的机器学习策略提供了见解。

Sep, 2023

联邦学习聚合：具有保证的新的鲁棒算法

该研究对联邦学习框架下聚合策略进行了全面的数学收敛分析，并通过与 FedAvg 进行分类任务的比较来评估其性能，得出了新的聚合算法，该算法可以通过区分客户端贡献的价值来修改其模型架构。

May, 2022

WeiAvg: 促进数据多样性的联邦学习模型聚合

本文提出了一种新颖方法 - WeiAvg，利用投影估计方法来估计客户端数据的多样性，从高多样性客户端强调权重更新，减少低多样性客户端的影响，实验结果证明 WeiAvg 优于原始的 FedAvg 算法和 FedProx，能更快、更准确的达到收敛。

May, 2023

FedFN：解决联邦学习中的数据异质性问题的特征正态化

研究通过实验证明 FedFN 学习方法在训练模型时依然可以保持高效性能，尤其在面对数据异质性和特征表征等问题时表现优异。

Nov, 2023

通过自适应模型平均实现拜占庭鲁棒的联邦机器学习

本文介绍了一种名为自适应联邦平均的新型算法，该算法利用隐藏马尔可夫模型来检测参与者在训练期间提供的模型更新质量，并提出一种鲁棒聚合规则以检测和丢弃每次训练迭代中的不良或恶意本地模型更新以及阻止不需要的参与者，从而在处理噪声、故障和恶意参与者时具有更高的鲁棒性和计算效率。

Sep, 2019

联邦脑肿瘤分割不同聚合和超参数选择方法的评估与分析

研究使用联邦学习在医学影像领域快速收敛和更好的表现，解决数据集中医疗隐私和数据所有权问题，并探索其在脑肿瘤分割问题上的应用。

Feb, 2022