Jan, 2024

联邦蒸馏中的对数攻击

PDF
TL;DRFederated Distillation (FD) 是一种新颖且有前景的分布式机器学习范式，其中利用知识蒸馏来促进更高效和灵活的跨设备知识传输。我们引入了一种为 FD 量身定制的攻击方法 FDLA，其通过操纵 FD 中的逻辑通信来显著降低客户端模型的性能，通过误导了对私有样本的区分能力，有效地威胁 FD 设置的客户端模型准确性。我们的发现强调了在 FD 环境中采取强大的防御机制来减轻此类对抗威胁的重要性。
federated distillationknowledge distillationdistributed machine learningpoisoning attacksfdla
发现论文，激发创造
  • 针对联邦学习系统的数据污染攻击

    本文研究了面向联邦学习系统的有针对性的数据毒化攻击，通过对恶意参与者的异常检测和排除，提出了一种有效的防御策略。

    Jul, 2020

  • 计算机网络中的数据污染攻击暴露下的联邦学习漏洞

    数据污染攻击对于计算机网络领域的严重性进行了实证研究，发现 Label Flipping 攻击易于检测，而 Feature Poisoning 攻击难以被察觉，证明了后者在欺骗服务器方面的重要性。

    Mar, 2024

  • 联邦式机器学习的数据注入攻击

    本文旨在研究联邦机器学习中的数据投毒攻击漏洞，使用一个基于多任务学习框架的联邦学习框架，提出了一个自适应的双层优化问题，并提出了一种系统感知的优化方法，ATTack on Federated Learning (AT2FL)，用于计算联邦机器学习中的设备投毒策略。实验结果表明，无论是直接毒害目标节点还是利用通信协议间接毒害相关节点，联邦多任务学习模型都非常容易受到投毒攻击的影响。

    Apr, 2020

  • Paired-Logits 逆向攻击恢复图像的 FedMD 破解

    本文介绍了一种名为 FedMD 的联合学习方案，使用模型蒸馏来保证隐私性，而不是直接共享模型参数。然而，我们发现即使是共享公共数据集的输出日志比直接共享渐变更为安全，但仍然存在数据曝光的风险。作者研究表明，恶意服务器可以利用 PLI 攻击 FedMD 及其变体。在多个面部识别数据集上的实验验证了作者发现的成果。

    Apr, 2023

  • 回到起点：对生产联邦学习中的毒化攻击的关键评估

    本文针对联合学习中的毒化攻击进行了综合的系统化研究和对各种可能的威胁模型和攻击形式进行了分类，特别关注了生产环境中的非定向毒化攻击及对此的防御机制；通过实验验证，与过去的错误认识不同，我们发现即使是简单低成本的防护措施，联合学习在实践中也是高度强健的。同时，我们还提出了新型的数据和模型毒化攻击，并探究它们在存在简单防御机制的情况下的攻击效果。

    Aug, 2021

  • FreqFed: 基于频率分析的联邦学习中缓解污染攻击的方法

    FreqFed 是一种新颖的聚合机制，通过将模型更新转换到频域，可以有效过滤掉恶意攻击，无论攻击类型、策略和客户端数据分布，从而在不影响聚合模型的实用性的前提下有效缓解毒化攻击。

    Dec, 2023

  • 基于联邦学习的智能电网虚假数据注入攻击分布式定位

    本文提出了一种联邦学习机制，结合混合卷积神经网络体系结构，并利用图形神经网络和 LSTM 层中的本地相关性和数据时间模式，以在分布式设置中灵活且高效地训练 FDIA 检测器，同时保护客户的隐私。

    Jun, 2023

  • 针对自主驾驶联邦学习的毒化攻击

    本文介绍了两种针对自动驾驶中回归任务的联邦学习 (FL) 的新型中毒攻击：FLStealth 和 Off-Track Attack (OTA)。通过实施广泛的实验，我们证明了这些攻击的有效性，并强调了针对自动驾驶中的有针对性攻击的新的防御机制的重要性。

    May, 2024

  • 用触发优化的数据毒化在联邦学习中隐藏后门模型更新

    DPOT 是一种基于数据污染的联邦学习后门攻击策略，通过动态构建后门目标并优化后门触发器，使后门数据对模型更新的影响最小化，有效地破坏了最先进的防御机制并在各种数据集上优于现有的后门攻击技术。

    May, 2024

  • FedDefender：客户端抗攻击的联邦学习

    分散化数据源的联邦学习为学习提供隐私保护，但容易受到恶意客户干扰的模型中毒攻击，因此本文提出了一种名为 FedDefender 的新客户端防御机制，通过攻击容忍的本地元更新和攻击容忍的全局知识蒸馏两个组件，实现对联邦学习的模型中毒攻击的抵御和知识提取，从而提高其鲁棒性。

    Jul, 2023