使用联邦学习训练扩散模型

Jun, 2024

Training Diffusion Models with Federated Learning

Matthijs de Goede, Bart Cox, Jérémie Decouchant

TL;DR我们提出了一种联合扩散模型方案，可以在不暴露本地数据的情况下独立和协作地训练扩散模型。通过对底层 UNet 骨干网的新颖利用，我们实现了在训练过程中参数交换数量的显著降低，最多可达 74％，而同时仍能保持与中心化设置相当的图像质量，依据 FID 分数评估。

Abstract

The training of diffusion-based models for image generation is predominantly controlled by a select few Big Tech companies, raising concerns about privacy, copyright, and data authority due to their lack of trans

diffusion-based models federated diffusion model privacy training data federated averaging (fedavg)

发现论文，激发创造

Phoenix：联邦式生成扩散模型

本文提出了一种新颖的基于联邦学习技术在多个数据源上训练去噪扩散概率模型的方法，已证明在保持数据多样性，保护隐私和减少数据源之间通信方面优于默认的扩散模型，并提供了一些新的可能性。

Jun, 2023

隐私敏感视觉任务的扩散模型联邦学习

通过实验和研究，我们发现联邦扩散模型在隐私敏感领域提供视觉服务方面具有巨大潜力。

Nov, 2023

从扩散模型获取训练数据

本文研究了图像扩散模型，如 DALL-E 2，Imagen 和 Stable Diffusion，发现它们从训练数据中记忆单个图像并在生成时发射此类图像，总结了此类模型的隐私风险和影响隐私保护培训的新进展。

Jan, 2023

CollaFuse: 协同扩散模型

通过分布式协作扩散模型，我们提出了一种新的方法，在感知图像的同时减轻了客户端的计算负担，从而实现协作训练和数据隐私的增强。

Jun, 2024

联邦数据模型

利用 Federated Data Model (FDM) 方法开发了一种能够在不同地点之间训练准确且注重隐私的人工智能模型的方法，通过扩散模型学习一处地点的数据特征，并生成可用于其他地点的合成数据，成功地应用于医学图像分割任务。

Mar, 2024

FedDiff：基于扩散模型的多模态和多客户联邦学习

本研究提出了一种名为 FedDiff 的多模态协同扩散联邦学习框架，旨在解决多模态遥感数据融合中的安全和效率通信问题，并通过定性和定量实验证实了该框架在图像质量和条件一致性方面的超越优势。

Nov, 2023

FedTabDiff: 合成混合类型表格数据生成的扩散概率模型联合学习

通过引入 Federated Tabular Diffusion (FedTabDiff)，旨在无需中心化访问原始数据集的情况下生成高保真度的混合类型表格数据，从而解决了保护隐私、混合属性类型和隐含关系等表格数据固有的复杂性问题。该方法采用去噪扩散概率模型 (DDPMs) 的优点，并实现了一种允许多个实体协同训练生成模型的分散学习方案，同时尊重数据隐私和本地性。FedTabDiff 还在联邦设置中扩展了 DDPMs，其中包括同步更新方案和加权平均以实现有效的模型聚合。对真实世界的金融和医疗数据集的实验评估证明了该框架能够产生保持高保真度、效用度、隐私和覆盖度的合成数据。

Jan, 2024

超越 U：打造更快速、更轻量级的扩散模型

利用连续动力系统设计一种新型去噪网络，以提高扩散模型的参数效率、收敛速度和噪声鲁棒性。与基准模型相比，该模型具有约四分之一的参数量和百分之三十的浮点操作数（FLOPs），推理速度提高了 70％，并且收敛到了更好的质量解。

Oct, 2023

分析和改进扩散模型的训练动力学

该研究提出了改进 ADM 扩散模型架构以解决不均匀训练、网络激活以及指数移动平均参数的问题，使得图像合成在计算复杂度相等的情况下得到了显著改进。

Dec, 2023

医学图像生成的快速去噪扩散概率模型

Fast-DDPM 是一种简单而有效的方法，可同时提高训练速度、采样速度和生成质量，通过仅使用 10 个时间步进行训练和采样，相比 DDPM，Fast-DDPM 能够在医学图像生成任务中优于基于卷积网络和生成对抗网络的当前最先进方法，并将训练时间缩短了 5 倍，采样时间缩短了 100 倍。

May, 2024