AAAIJan, 2024

FedTGP：适应数据和模型异质性的具有自适应边缘增强对比学习的可训练全局原型

PDF
TL;DR通过使用自适应边际增强对比学习（ACL）学习 Server 端的可训练全局原型（TGP），FedTGP 方法在维持原型增值的同时保留语义含义，实验证明在保持通信和隐私优势的基础上最高可提升 9.08% 的准确性，该方法超过了现有最先进方法。
发现论文，激发创造
  • FedProto: 跨异构客户端的联邦原型学习

    该论文提出了一种新的联邦原型学习 (FedProto) 框架，借助全局原型而不是梯度来弥补跨客户端的异质性，从而提高局部模型的性能。

    May, 2021

  • 多层原型的动态异构联邦学习

    提出了一种名为 Federated Multi-Level Prototypes (FedMLP) 的新型联邦学习框架，以应对异构数据分布和动态任务的联邦学习需求，并引入原型和语义原型来缓解概念漂移问题。

    Dec, 2023

  • 使用对比学习方法的预训练模型联邦学习

    本文提出了一种轻量级框架，使客户端通过融合多个预训练模型生成的表示而不是从头开始训练大规模模型来共同学习；我们设计了一种基于原型的对比学习（FedPCL）方法，以原型为共享信息进行知识传递，从而提高各个客户端利用现有模型的能力并保持通信效率。

    Sep, 2022

  • 个性化生成网络的异构联邦学习

    通过减少客户端之间的异质性，本研究提出了一种传递知识的方法，利用客户端专用生成器为每个客户端生成样本，以减少与其他客户端模型的冲突，从而构建出具有良好泛化能力的全局模型。

    Aug, 2023

  • 使用类原型在联邦学习中解决数据异构性

    本文提出了一种名为 FedNH 的新方法，通过组合类原型的均匀性和语义来改善在分类设置中的数据不均衡问题。实验证明了该方法对于局部模型的个性化和概括性都有显著的提高。

    Dec, 2022

  • 原型有助于联邦学习：朝着更快的收敛方向

    该论文提出了一种基于原型的联邦学习框架，通过在典型的联邦学习进程的最后全局迭代中进行少量更改就能够实现更好的推理性能，从而在两个基准数据集上实现了更高的准确性和相对高效的通信。

    Mar, 2023

  • MP-FedCL：面向边缘智能的多原型联合对比学习

    本文提出了一种使用多原型策略的联邦对比学习方法 (MP-FedCL)，旨在增强分散式智能服务中的隐私保护功能，并在标签和特征分布不独立且倾斜的情况下，证明了多原型策略的有效性，并在 MNIST，Digit-5，Office-10 和 DomainNet 等多个数据集上显示出优异的性能.

    Apr, 2023

  • 原型正则化提升联邦学习收敛性

    在分布式机器学习技术中，联邦学习（FL）要求客户端在边缘服务器上协同训练共享模型，而不泄露其本地数据。本文引入了一种基于原型的正则化策略来解决数据分布的异质性，并通过实验结果表明，在 MNIST 和 Fashion-MNIST 上与最流行的基准 FedAvg 相比，我们的方法分别取得了 3.3% 和 8.9% 的平均测试准确率提升，而且在异质设置下具有快速收敛速度。

    Jul, 2023

  • 用层次生成原型来减少联邦式增量学习中的偏见

    该研究提出了一种通过使用可学习的提示来约束增量和联邦偏差的方法，从而提高全局模型的预测准确性，并在平均准确率上提供了 7.9% 的增加。

    Jun, 2024

  • 基于 CLIP 引导的异构和长尾数据联邦学习

    采用 CLIP 指导的联合学习（CLIP2FL）方法在异构和长尾数据上进行了研究，通过使用 CLIP 模型的知识转移，构建客户端和服务器之间的桥梁，改善了客户端特征表示能力，生成联合特征以重新训练服务器模型，以减轻用户异构性和类分布不平衡问题。

    Dec, 2023