联邦 PAC 学习
个性化联邦学习的 PAC-PFL 算法在一个 PAC-Bayesian 框架中应用差分隐私处理数据相关的先验概率,协同学习共享超后验,并将每个客户的后验推断视为个性化步骤,通过建立和最小化客户平均真实风险的泛化界限,有效地抑制过度拟合,从而实现准确和良好校准的预测。
Jan, 2024
本文详细阐述了联邦学习的体系结构、应用问题、算法设计原则和安全问题,提出了一种更加通用的算法设计框架、攻击场景和防御方法,致力于将联邦学习与真实世界应用相集成并实现高性能、隐私保护和安全性。
Feb, 2023
提出一个保护机制的通用学习框架,通过扭曲模型参数保护隐私,可以在联合学习中实现个性化的隐私保护与数据价值间的权衡。在理论和实验证明该算法有效,提高了隐私维护的联合学习方法。
May, 2023
在这项研究中,我们从效率的角度研究了联邦学习中的隐私攻击,并提出了一种提高联邦学习中隐私攻击效率的框架(EPAFL)。通过系统评估代表性的联邦学习隐私攻击的计算成本,我们发现有很高的优化效率的潜力。我们还提出了三种早停技术来有效地减少这些隐私攻击的计算成本。在基准数据集上进行的实验表明,我们提出的方法可以显著降低计算成本,并保持与现有联邦学习隐私攻击方法相当的攻击成功率。我们把代码放在 GitHub 上,链接在这个 URL 中。
Apr, 2024
本文旨在通过开发二种基于 NSGA-II 和 PSL 算法的改进型多目标优化算法,实现联邦学习系统的多目标优化,包括模型性能最大化,隐私泄露和培训成本最小化以及对恶意攻击的鲁棒性,并在保证模型性能的同时,优化三个主要目标:隐私泄露、效用损失和培训成本。我们还对三种隐私保护机制 (随机化、批量加密和稀疏化) 进行了比较,并使用实验验证了算法的有效性.
Apr, 2023
Upcycled-FL 是一种新颖的联邦学习框架,应用在每个偶数迭代中的一阶逼近,以在保持隐私的同时提高隐私 - 准确性平衡,并通过引入扰动机制来保护隐私。实验表明,Upcycled-FL 在异构数据上持续优于现有方法,并且平均减少 48%的训练时间。
Oct, 2023
我们的研究针对分布不均匀的本地数据,提出了第一个非平凡的针对非独立同分布挑战的联邦 PAC-Bayesian 界限,并使用独特的先验知识和可变聚合权重。我们还引入了一个目标函数和一种创新的基于 Gibbs 的算法来优化该界限,并在真实数据集上验证了结果。
Sep, 2023
本文介绍了一个名为 pFedBreD 的基于贝叶斯学习方法的个性化联合学习框架,该框架针对异构数据问题进行建模,并应用 Bregman 散度约束来解决该问题。实验结果表明,在高斯先验和均值选择的一阶策略的前提下,pFedBreD 显著优于其他个性化联合学习算法。
Nov, 2022
物联网网络和数据处理技术的发展对分布式学习方法中的联邦学习具有巨大潜力,本论文通过两个实例展示了联邦学习在物联网网络中实现高效和保护隐私的机器学习的潜力,并通过模拟研究了隐私和准确性之间的权衡关系。
Dec, 2023
本文介绍了一种名为 PFA 的新框架,旨在以联邦方式实现更好的个性化结果。PFA 利用神经网络的稀疏性生成隐私保护表示,并使用这些表示来高效识别具有相似数据分布的客户端,从而进行分组并在联邦模型上进行群体式联邦学习来完成自适应过程。该框架能够保障客户端隐私,并在多个 FL 数据集上通过实验证明了其有效性和优越性。
Mar, 2021