- 使用更新摘要和基于投票的防御提升联邦学习的安全和隐私性
Federated Learning with Update Digest (FLUD) is a novel framework that ensures privacy preservation, resistance to Byzan - MM反拜占庭攻击下的异步联邦学习车辆选择在车辆边缘计算中的应用
基于深度强化学习的车边计算中,根据车辆的整体性能和遭受的拜占庭攻击程度,提出了一种车辆选择方案,以有效提高全局模型的安全性和准确性。
- 共识学习:一种新的去中心化集成学习范式
该研究论文介绍了一种新颖的分布式机器学习范式 —— 共识学习,它将经典的集成方法与点对点系统中部署的共识协议相结合。该算法包括两个阶段:参与者开发模型并对任何新的数据输入提交预测;个体预测作为输入参与通信阶段,该阶段由共识协议控制。共识学习 - 基于蒸馏的联邦学习的拜占庭容错性
研究在拜占庭设置中,使用知识蒸馏的联邦学习算法的性能以及如何提高其对拜占庭攻击的鲁棒性。
- 构建公平、强韧和高效的联邦学习中的客户端贡献评估
本论文介绍了一种名为公平、强健且高效的客户评估(FRECA)的方法,用于量化联邦学习(FL)中客户的贡献。该方法使用 FedTruth 框架估计全局模型的真实更新,平衡各个客户的贡献,同时过滤掉恶意客户的影响。FRECA 还能够防御拜占庭攻 - SkyMask:具有细粒度可学习遮罩的攻击无关健壮联邦学习
提出了一种新的攻击不可知的鲁棒联邦学习系统 SkyMask,它利用细粒度的可学习掩码在参数级别上识别恶意模型更新,以解决现有防御方法的低效率和模型性能下降的问题。
- 分布式变分不等式的拜占庭容错方法
对于分布式训练场景来说,对拜占庭攻击的鲁棒性是必需的。本研究提供了几种(可证明的)适用于分布式变分不等式问题的拜占庭鲁棒方法,并全面研究了它们的理论收敛性,消除了先前工作的局限,并提供了支持理论发现的数值比较。
- 具有方差减少和差分隐私的拜占庭鲁棒联邦学习
提出了基于差分隐私机制的稀疏化和动量驱动的方差减少方法,以防御拜占庭攻击,并保证演算法的客户端隐私保障。通过与现有方法的比较实验证明了该框架提高了系统的强韧性,并取得了较强的隐私保证。
- DRAG: 基于差异的适应性聚合在非 IID 数据上的联邦学习
基于梯度下降的分布式学习算法在通信效率方面取得了一定的成果,但由于异构数据分布引起的工作节点的‘客户端漂移’现象导致收敛速度减慢。为解决此问题,本文提出了一种称为‘分歧度量’的新指标,并通过该指标引入了一种自适应聚合算法,该算法可以在每一轮 - 具有随机梯度噪声独立学习误差的拜占庭鲁棒型分散式随机优化
该研究探讨了分布式网络中拜占庭鲁棒随机优化问题,其中每个代理定期与其邻居通信以交换本地模型,然后通过随机梯度下降(SGD)更新其本地模型。通过引入两种方差减小方法(SAGA 和 LSVRG),该方法在消除了随机梯度噪声的负面影响后,实现了线 - 网络容错和拜占庭鲁棒的社交学习通过协作层次非贝叶斯学习
基于分层系统架构,解决面临通信故障和对抗攻击的非贝叶斯学习问题,并提出适应分布式网络的算法
- 拜占庭容错的分布式在线学习:驯服恶意环境中的对手
本研究旨在研究分布式在线学习在拜占庭攻击下的表现。通过使用一类最先进的强健合并规则,我们证明,即使在存在 byzantine 参与者和对抗性环境下,分布式在线梯度下降也只能实现线性对抗性后悔界限,并且我们可以将线性对抗性后悔的常数控制在合理 - 一种基于客户端更新的矩阵自回归的联邦学习拜占庭容错聚合方案
本研究提出了一种新的联邦学习聚合方案 FLANDERS,该方案采用矩阵自回归预测模型,将实际观测值与预测值进行比较,识别恶意客户端,从而提高对拜占庭攻击的鲁棒性,与现有防御策略相比,FLANDERS 在极端攻击情况下效果显著。
- 异构多智能体系统对抗拜占庭攻击的弹性输出一致性控制:双层方法
本论文研究了异构多智能体系统的合作控制问题,提出了一种基于数字孪生概念的分层协议,有效解决了 Byzantine 攻击问题并通过数值实验得到验证。
- 使用梯度分解增强联邦学习的拜占庭容错能力
针对联邦学习中的拜占庭攻击和不同数据分布下聚合规则的局限性问题,提出一种名为 GAIN 的梯度分解方案,能够适应异构数据集并改进现有鲁棒算法的并行训练方法。
- 拜占庭人也可以从历史中学习:联邦学习中心裁剪的失败
本文研究使用 Momentum 和 Centered Clipping 框架改进联邦学习中的安全性,但发现 Centered Clipping 框架存在攻击漏洞,提出新的攻击策略可以规避该框架的防御,并对其产生的影响进行数值分析。
- 拜占庭攻击下的联邦多臂老虎机
本文研究了存在拜占庭攻击的联邦多臂老虎机问题,并借鉴了鲁棒统计学中的方法提出了一种名为 Fed-MoM-UCB 的估算器,通过实验证明了其在面对拜占庭攻击时的有效性。
- 拜占庭鲁棒联邦线性赌博机
研究在联邦学习环境下的线性赌博机优化问题,提出一个具有鲁棒聚合神谕的新算法,证明该算法对少于一半的代理进行拜占庭攻击是鲁棒的,并通过基于树的机制使算法具有差分隐私。如果已知污染程度较小,则使用平均几何中位数神谕来进行鲁棒聚合进一步改善遗憾界 - MM联邦学习中缓解拜占庭攻击的挑战和方法
该研究论文对联邦学习中的拜占庭攻击进行了全面调查和分析,对现有防御方案进行了对比和讨论,并提出了一种新的拜占庭攻击方法称为权重攻击,由此揭示目前防御方案对联邦学习中的拜占庭攻击的局限性,并探讨了未来的研究方向和挑战。
- ICMLMANDERA: 基于排名的联邦学习恶意节点检测
本研究提出了一种名为 MANDERA 的解决方案,针对联合学习算法中拜占庭攻击的梯度干扰问题进行检测。通过将原始更新梯度空间转化为排名矩阵,可将高维恶意梯度和良性梯度轻松分离,本解决方案在四个拜占庭攻击实现上表现出色,覆盖了 IID 和非