FedGen: 泛化联邦学习

Nov, 2022

FedGen: Generalizable Federated Learning

Praveen Venkateswaran, Vatche Isahagian, Vinod Muthusamy, Nalini Venkatasubramanian

TL;DR本文提出了一种名为 FedGen 的通用联邦学习框架，它允许客户端以协作的方式在没有训练分布的先验知识的情况下，识别和区分虚假和不变特征，与目前的联邦学习方法相比，FedGen 能够实现显著更好的泛化效果。

Abstract

Existing federated learning models that follow the standard risk minimization paradigm of machine learning often fail to generalize in the presence of spurious correlations in the training data. In many real-worl

federated learning spurious correlations generalization distributed devices fedgen

发现论文，激发创造

基于基础模型的联合生成学习

本文提出了一种新的联邦生成学习框架，通过在客户端和服务器之间传输与分布式训练数据相关的提示，对信息进行编码和传输，从而综合提高联邦学习的效率和数据隐私性。

Jun, 2023

信息论分布多元化实现联邦泛化

我们的论文提出了一种信息论的泛化框架来解决联邦学习中的分布不一致问题，并通过引入加权聚合方法和客户端选择策略来增强泛化能力。

Oct, 2023

联邦学习中的泛化是什么意思？

本文提出了一种用于区分表现差距的框架，以解决联邦学习中未见客户数据（样本外差距）与未见客户分布（参与差距）之间的性能差距，同时提出了语义综合策略，以便实现对联邦学习中一般化的现实模拟。在自然和合成联邦数据集上对此进行了观察和解释，旨在为未来的联邦学习工作提出建议。

Oct, 2021

个性化生成网络的异构联邦学习

通过减少客户端之间的异质性，本研究提出了一种传递知识的方法，利用客户端专用生成器为每个客户端生成样本，以减少与其他客户端模型的冲突，从而构建出具有良好泛化能力的全局模型。

Aug, 2023

面向因果联邦学习的增强鲁棒性和隐私保护

本文提出了一种在联邦学习中学习所有参与客户机中共同不变（因果）特征的方法，并经验性地分析了它如何增强模型的精度和隐私性。

Apr, 2021

通过稳定性理解联邦学习的泛化：异质性很重要

本文针对联邦学习中算法稳定性的概念，研究了 FedAvg、SCAFFOLD 和 FedProx 在凸性和非凸性损失函数下的通用性能，并探讨了客户端数据的异质性和算法收敛行为对模型通用性能的影响。

Jun, 2023

联邦学习对微调特征的偏倚风险及其影响弱领域泛化性能

通过引入 GNP 算法，将鲁棒性从预训练模型传递到微调模型，并增加少量的高斯噪声以增强模型的代表能力，从而显著提高模型在不同场景下的鲁棒性。

Jan, 2024

联邦生成隐私

本文提出了 FedGP 框架，它使用生成对抗网络在联邦学习环境下进行隐私保护数据发布，实现了高质量的标记数据样本的生成，并在实验中证明了该方法可以显著降低模型反演攻击的风险。

Oct, 2019

FedFA: 联邦特征增强

本文提出了一种名为 FedFA 的鲁棒联邦学习算法，通过运用统计学的方法对每个客户端的数据进行加强，从而解决非 i.i.d. 数据分布带来的特征偏移和本地数据偏差问题。

Jan, 2023

联邦变分推断：实现更好的个性化和泛化

本文提出了基于贝叶斯推断的层次生成模型和 FedVI 算法，该算法通过变分推断训练模型并结合 PAC-Bayes 分析提供了更好的泛化性能。作者还在 FEMNIST 和 CIFAR-100 数据集上进行了实验验证，结果显示 FedVI 在图像分类任务上的表现超过了现有算法。

May, 2023