CVPRMar, 2024
一种从服务器端预训练生成器向异构联邦学习中的客户端传输知识的高效上传方案
An Upload-Efficient Scheme for Transferring Knowledge From a Server-Side Pre-trained Generator to Clients in Heterogeneous Federated Learning
Jianqing Zhang, Yang Liu, Yang Hua, Jian Cao
TL;DR通过利用预训练生成器中存储的知识，我们提出了一种新的上传高效的知识传输方案，称为联邦知识传输环（FedKTL），它能够通过服务器上生成器的推理来生成与客户任务相关的典型图像 - 向量对，每个客户端可以通过额外的受监督的本地任务将预先存在的知识从生成器传输到其本地模型。我们在 14 种模型（包括 CNN 和 ViTs）以及两种数据异构性下的四个数据集上进行了广泛的实验，结果显示我们上传高效的 FedKTL 在准确率上超过了七种现有方法的最高 7.31％。此外，我们的知识传输方案可适用于只有一个边缘客户端的场景。