Apr, 2023

MP-FedCL：面向边缘智能的多原型联合对比学习

PDF
TL;DR本文提出了一种使用多原型策略的联邦对比学习方法 (MP-FedCL)，旨在增强分散式智能服务中的隐私保护功能，并在标签和特征分布不独立且倾斜的情况下，证明了多原型策略的有效性，并在 MNIST，Digit-5，Office-10 和 DomainNet 等多个数据集上显示出优异的性能.
发现论文，激发创造
  • FedProc：基于原型构造对比的非独立同分布联邦学习

    该研究提出了 FedProc，即原型对比联邦学习，一种简单有效的联邦学习框架，通过利用原型作为全局知识来纠正每个客户的本地训练，使用本地网络架构和全局对比损失来规范本地模型的训练，从而最终获得在非 I.I.D 数据上良好的性能。

    Sep, 2021

  • 非独立同分布数据下的联邦学习

    本文着重研究了在本地数据不 IID 的情况下联邦学习面临的统计挑战，提出了一个使用全局数据子集来提高非 IID 数据训练准确性的解决方案，并通过实验表明，使用仅占 5％的全局数据子集就可以将 CIFAR-10 数据集的准确性提高 30％。

    Jun, 2018

  • FedCCL：基于领域异质性的联邦双聚类特征对比

    通过引入聚类表示、局部聚类和全局信号等方法，本研究提出了一个双聚类特征对比的联邦学习框架，旨在解决非独立同分布数据的挑战，以跨客户知识共享和一致的全局指导为重点，实验结果表明，在域内和域间异质性下，该框架取得了可比或更高的性能提升。

    Apr, 2024

  • FedRFQ: 减少冗余、最小化故障和提升质量的基于原型的联邦学习

    FedRFQ 是一种基于样本原型的联邦学习方法，旨在减少冗余、最小化失效，并提高质量。通过使用 SoftPool 机制有效地减少非独立同分布数据中的原型冗余和失效。此外，还引入了 BFT-detect 算法以确保 FedRFQ 对抗攻击和服务器故障的安全性。实验结果表明，当处理非独立同分布数据时，FedRFQ 在准确性方面优于现有基准。

    Jan, 2024

  • FedProto: 跨异构客户端的联邦原型学习

    该论文提出了一种新的联邦原型学习 (FedProto) 框架，借助全局原型而不是梯度来弥补跨客户端的异质性，从而提高局部模型的性能。

    May, 2021

  • FedCD: 非独立同分布联邦学习性能改进

    提出 FedCD 方法，将模型动态地克隆和删除以将设备分组，实现在非独立同分布的数据上高精度和更快的收敛。

    Jun, 2020

  • 多联邦学习：使用分散的联邦学习处理包容性非独立同分布数据

    多联邦学习是一个去中心化的联邦学习框架，旨在解决非独立同分布数据的问题，并通过维护多个模型并行进行收敛，以增强适应性。

    Apr, 2024

  • 个性化语义沟通的联邦对比学习

    设计了一个支持个性化语义通信的联邦对比学习 (FedCL) 框架，它通过在多个客户端之间协作训练本地语义编码器和基站所拥有的全局语义解码器来实现。该框架不需要客户端模型聚合，支持异构语义编码器。此外，为了解决分布式客户端间异构数据集引起的语义不平衡问题，我们采用对比学习训练语义质心生成器 (SCG)。该生成器获得代表性的全局语义质心，具有内语义紧凑性和跨语义可分离性。因此，它为学习有区分性的本地语义特征提供优越的监督。此外，我们进行了理论分析，量化了 FedCL 的收敛性能。仿真结果验证了所提出的 FedCL 框架在任务性能和稳健性方面相对于其他分布式学习基准的优越性，尤其在低信噪比和高度异构数据场景下。

    Jun, 2024

  • 跨领域原型校准非独立同分布数据的联邦学习

    通过使用跨库样本原型校准方法（FedCSPC）获取来自客户端的附加原型信息并在服务器端学习统一的特征空间，本文解决了既有解决方案在数据集偏差方面的限制，有效提高了特征一致性和性能表现。

    Aug, 2023

  • FedTGP：适应数据和模型异质性的具有自适应边缘增强对比学习的可训练全局原型

    通过使用自适应边际增强对比学习（ACL）学习 Server 端的可训练全局原型（TGP），FedTGP 方法在维持原型增值的同时保留语义含义，实验证明在保持通信和隐私优势的基础上最高可提升 9.08% 的准确性，该方法超过了现有最先进方法。

    Jan, 2024