Oct, 2023

Fed-GraB: 基于自适应梯度均衡器的联邦长尾学习

PDF
TL;DR此研究论文介绍了一种名为 Fed-GraB 的方法，通过在全局范围内聚合本地异构数据集并调整本地学习策略，基于全局长尾分布的反馈，实现了在保持多数类性能的同时，在少数类上取得更好性能的全局模型，并在 CIFAR-10-LT、CIFAR-100-LT、ImageNet-LT 和 iNaturalist 等数据集上取得了最先进的性能。
data privacylong-tailed distributionfederated long-tailed learningfed-grabglobal model
发现论文，激发创造
  • 通过全局正则化个性化实现解决联邦学习中客户端不平衡问题

    本文提出了一种名为 Global-Regularized Personalization （GRP-FED）的方法，利用全局和本地模型各自的优势来有效处理分散客户端的长尾数据不均衡问题，实验结果表明，GRP-FED 在 MIT-BIH 和 CIFAR-10 数据集上表现出更好的性能和更好地解决了客户端不平衡问题。

    Aug, 2021

  • 在联邦式长尾学习中，将局部真实数据与全局梯度原型集成以进行分类器再平衡

    本篇研究对去中心化的 Federated Learning 中，数据长尾分布导致全局模型严重偏向于头部类别而出现的问题进行了探究和解决，提出了一种局部平衡数据集的方法，并在训练时引入了额外的分类器，同时优化分类器的平衡和全局数据分布的建模，实验证明本研究的方法在各种情况下都表现出了优异的效果。

    Jan, 2023

  • FedLoGe: 长尾数据下的联合局部与通用联邦学习

    本研究提出了一种名为 FedLoGe 的方法，通过在神经坍塌框架中集成表示学习和分类器对齐，提高了本地和通用模型的性能，从而加强了分布式长尾学习中全局模型和本地模型的表现。

    Jan, 2024

  • 走向联邦长尾学习

    本文探讨如何在隐私保护联邦学习框架下，同时解决学习长尾数据分布及数据隐私保护问题，提出了三种不同的长尾数据分布情景，并强调了相应的挑战。初步结果表明，解决联邦长尾学习任务需要更多的工作和研究。

    Jun, 2022

  • 长尾学习作为多目标优化

    通过多目标优化，我们提出一种梯度平衡聚类（GBG）策略，以应对现实世界数据中的类别不平衡和长尾分布问题，并在长尾学习中展现出比现有方法更优越的性能。

    Oct, 2023

  • 针对长尾数据的联邦学习安全聚合

    本文针对联邦学习中数据不均衡和拜占庭节点攻击的问题，提出了一种新的两层聚合方法和智囊团概念，用于拒绝恶意模型和选出包含尾部类别数据信息的有价值模型进行全局聚合，初步实验证明智囊团对于全局聚合进行有效的模型选择。

    Jul, 2023

  • FedGL: 具有全局自监督的联邦图学习框架

    文章提出一种基于联邦学习的图学习架构 FedGL，通过全局的自监督信息聚合每个客户机的模型，利用图数据的互补性，保护数据隐私并在分布式场景下提高模型质量。实验结果表明，FedGL 较传统方法在四个广泛使用的图数据集上表现优异。

    May, 2021

  • FedGTA：面向拓扑感知的联邦图学习中的平均化

    我们提出一种个性化优化策略，名为 Federated Graph Topology-aware Aggregation（FedGTA），通过拓扑感知的局部平滑置信度和混合邻居特征来优化分布式图学习方法，实现优越的性能和高度可扩展性。

    Jan, 2024

  • FedGT：具有可扩展图变换器的联邦节点分类

    提出了一种可扩展的 FedGraphTransformer（FedGT）方法，通过混合注意力机制解决了分布式图神经网络在局部子图更新中缺失链接的问题，以及子图异构性和数据隐私保护的问题。实验证明了 FedGT 的优越性。

    Jan, 2024

  • FedGrad: 通过检查本地终极梯度来减轻联邦学习中后门攻击的影响

    提出 FedGrad 作为一种新的反对联邦学习中背门攻击的防御机制，能够对边缘情况的背门攻击进行较好的防御，并且在不降低主任务精度的情况下最高可以准确检测到几乎 100% 的恶意参与者，从而显著降低背门效果，而且相比现有的防御机制，其表现出更好的性能。

    Apr, 2023