FedRFQ: 减少冗余、最小化故障和提升质量的基于原型的联邦学习

Jan, 2024

FedRFQ: 减少冗余、最小化故障和提升质量的基于原型的联邦学习

FedRFQ: Prototype-Based Federated Learning with Reduced Redundancy, Minimal Failure, and Enhanced Quality

Biwei Yan, Hongliang Zhang, Minghui Xu, Dongxiao Yu, Xiuzhen Cheng

TL;DRFedRFQ 是一种基于样本原型的联邦学习方法，旨在减少冗余、最小化失效，并提高质量。通过使用 SoftPool 机制有效地减少非独立同分布数据中的原型冗余和失效。此外，还引入了 BFT-detect 算法以确保 FedRFQ 对抗攻击和服务器故障的安全性。实验结果表明，当处理非独立同分布数据时，FedRFQ 在准确性方面优于现有基准。

Abstract

federated learning is a powerful technique that enables collaborative learning among different clients. Prototype-based federated learning is a specific approach that improves the performance of local models unde

federated learning prototype-based federated learning non-iid data softpool mechanism bft-detect

发现论文，激发创造

原型有助于联邦学习：朝着更快的收敛方向

该论文提出了一种基于原型的联邦学习框架，通过在典型的联邦学习进程的最后全局迭代中进行少量更改就能够实现更好的推理性能，从而在两个基准数据集上实现了更高的准确性和相对高效的通信。

Mar, 2023

FedProc：基于原型构造对比的非独立同分布联邦学习

该研究提出了 FedProc，即原型对比联邦学习，一种简单有效的联邦学习框架，通过利用原型作为全局知识来纠正每个客户的本地训练，使用本地网络架构和全局对比损失来规范本地模型的训练，从而最终获得在非 I.I.D 数据上良好的性能。

Sep, 2021

MP-FedCL：面向边缘智能的多原型联合对比学习

本文提出了一种使用多原型策略的联邦对比学习方法 (MP-FedCL)，旨在增强分散式智能服务中的隐私保护功能，并在标签和特征分布不独立且倾斜的情况下，证明了多原型策略的有效性，并在 MNIST，Digit-5，Office-10 和 DomainNet 等多个数据集上显示出优异的性能.

Apr, 2023

FedProto: 跨异构客户端的联邦原型学习

该论文提出了一种新的联邦原型学习 (FedProto) 框架，借助全局原型而不是梯度来弥补跨客户端的异质性，从而提高局部模型的性能。

May, 2021

联邦侦察：高效、分布式、分类增量学习

在分布式客户端独立地学习新概念并高效地交流知识的计算机学习问题中，我们提出了一种评估框架和方法基线，比较了学习算法并发现原型网络是一种强大的方法，其对灾难性遗忘具有鲁棒性，并高效地合并新信息。我们证明，原型向量的在线平均是有效的客户端模型合并，每个类别只需要很少的通信开销，内存和更新时间而无需梯度学习或超参数调整。

Sep, 2021

多层原型的动态异构联邦学习

提出了一种名为 Federated Multi-Level Prototypes (FedMLP) 的新型联邦学习框架，以应对异构数据分布和动态任务的联邦学习需求，并引入原型和语义原型来缓解概念漂移问题。

Dec, 2023

使用对比学习方法的预训练模型联邦学习

本文提出了一种轻量级框架，使客户端通过融合多个预训练模型生成的表示而不是从头开始训练大规模模型来共同学习；我们设计了一种基于原型的对比学习（FedPCL）方法，以原型为共享信息进行知识传递，从而提高各个客户端利用现有模型的能力并保持通信效率。

Sep, 2022

增强数据丰富的智慧城市联邦学习中的互信能力

通过考虑客户端和服务器的可信度需求，我们提出了一个新的框架来解决联合学习中的双向信任问题，包括创建服务器和客户端的偏好函数、建立基于声誉的推荐系统、分配可信度分数、使用统计的四分位数方法进行设备的信任度评估以及设计智能匹配算法。通过模拟和实验结果，我们的方法提高了信任水平、全局模型准确性，并减少了系统中的不可信客户端。

May, 2024

FedPH: 增强隐私的异构联邦学习

提出一种新的联邦学习方法，利用预训练模型作为本地模型的骨架，使用完全连接的层组成头部来解决客户端数据分布和计算资源不同的问题，在客户端之间共享类别的嵌入向量，采用加噪声的隐私保护混合方法来保护隐私，最后在自建车辆数据集上进行全面评估。

Jan, 2023

使用联邦学习训练语音识别模型：质量 / 成本框架

本文提出使用联邦学习来训练语音识别模型，并通过对非独立同分布数据分布程度的调整来平衡模型质量和联邦训练计算成本之间的关系，并证明超参数优化和适当使用变分噪声可以弥补非独立同分布数据对模型影响的影响。

Oct, 2020