Nov, 2023

一次性联邦学习与分类器引导的扩散模型

PDF
TL;DR使用扩散模型，在一次联邦学习中引入了指导性生成数据，避免了现实场景中常见的辅助数据集或训练生成器的障碍。该方法针对异构客户模型和非独立同分布的特征或标签问题，有效处理隐私保护并在一些情况下超越集中式训练的性能上限，从而形成性能更高的聚合模型。
one-shot federated learningdiffusion modelsfedcadodata generationprivacy protection
发现论文，激发创造
  • 一种使用预训练扩散模型的单次半监督联邦学习探究

    本研究引入预训练扩散模型到联邦学习中，提出了 FedDISC 方法来解决高通信成本、客户端负担和分布差异等挑战，该方法有效地解决了非独立同分布客户端上的一次半监督问题，并通过可视化证明了数据隐私的保密性。

    May, 2023

  • 通过扩散模型在一次性联邦学习中解决异质性和隐私问题

    本研究探讨了扩散模型在一次性联邦学习中的有效性，证明其在应对数据异构性和提高联邦学习性能方面的适用性，并与其他一次性联邦学习方法在差分隐私下的效用进行了比较。此外，为了在差分隐私设置下提高生成样本的质量，我们提出了一种实用的傅里叶幅度过滤（FMF）方法，增强了全局模型训练的生成数据的有效性。

    May, 2024

  • 增强一次性联邦学习通过数据和集成协同增益

    One-shot Federated Learning (OFL) has become a promising learning paradigm that can train a global server model via a single communication round. Co-Boosting is a novel framework introduced to enhance the quality of synthesized data and ensemble models in OFL, achieving high performance without adjustments to client's local training or additional data/model transmission.

    Feb, 2024

  • 精简一次性联合学习

    提出了 Distilled One-Shot Federated Learning (DOSFL) 算法，通过数据集精炼和一次迭代来减少模型权重的通信量和传播轮数，达到与传统方法相当的性能和高达三个数量级的通信效率。

    Sep, 2020

  • 个性化生成网络的异构联邦学习

    通过减少客户端之间的异质性，本研究提出了一种传递知识的方法，利用客户端专用生成器为每个客户端生成样本，以减少与其他客户端模型的冲突，从而构建出具有良好泛化能力的全局模型。

    Aug, 2023

  • 增强本地模型多样性的非独立同分布数据的一次性连续联邦学习

    通过提出一种局部模型多样性增强策略，我们改进了非独立同分布（non-IID）数据下的一次性序列联邦学习，从而提高了全局模型的性能并保持低通信成本。

    Apr, 2024

  • 联邦式少样本学习

    本文介绍了一种新颖的问题：在联合学习场景下，如何面对数据有限的客户端。为了解决数据分布和本地数据不足等问题，提出了联合少样本学习框架，并进行了大量实验，证明了该框架的有效性。

    Jun, 2023

  • 隐私敏感视觉任务的扩散模型联邦学习

    通过实验和研究，我们发现联邦扩散模型在隐私敏感领域提供视觉服务方面具有巨大潜力。

    Nov, 2023

  • 基于 GAN 数据合成的联合学习用于非独立同分布客户端

    该研究提出了一种名为 Synthetic Data Aided Federated Learning (SDA-FL) 的新框架，通过共享人工合成数据来解决客户端数据的不独立和同分布性问题，从而提高本地模型的一致性并改善全局聚合效果。

    Jun, 2022

  • 基于最优客户端采样的通信高效联邦学习

    本文提出了一种基于 Ornstein-Uhlenbeck 过程的方案，在受通信限制的情况下，通过收集具有信息更新的客户端模型和估计没有通信的本地更新的方式来更新中央模型，实现了在保证性能的同时显著减少了通信量，为联邦学习提供了一种新的通信效率优化方案。

    Jul, 2020