Apr, 2024

利用变分图表示进行联邦学习模型中毒攻击

PDF
TL;DR本文介绍了一种新的训练数据无控制模型污染攻击方法，该攻击针对联邦学习，在没有访问 FL 的训练数据的情况下，基于获取到的良性局部模型扩展了对抗性变分图自动编码器，从而生成了恶意局部模型。实验表明，基于该攻击方法的 VGAE-MP 攻击会导致联邦学习准确性下降，并且现有的防御机制无法检测到该攻击，对联邦学习构成严重威胁。
training data-untethered model poisoningfederated learningvariational graph autoencoderadversarialmalicious local models
发现论文，激发创造
  • 针对联邦学习的数据不可知模型污染：一种图自编码器方法

    该研究提出了一种基于对抗图自编码器的新颖的数据无关型模型污染攻击方法，攻击者通过监听无害的本地模型和全局模型来提取其中的图结构关联，并用对抗性图结构和训练数据特征生成恶意本地模型，导致联邦学习的准确性逐渐下降，现有的防御机制无法检测这种攻击，对联邦学习构成严重威胁。

    Nov, 2023

  • 基于 GAN 的数据污染框架用于对抗垂直联邦学习中的异常检测

    在垂直联邦学习中，通过保护数据隐私，商业实体共同训练一个模型。然而，恶意参与者的毒化攻击可能会降低这个合作模型的性能。为了解决这个挑战，本文引入了一种创新的端到端毒化框架 P-GAN。同时，我们还开发了一种基于深度自编码器（DAE）的异常检测算法，为垂直联邦学习情景提供了强大的防御机制。通过大量实验，我们评估了 P-GAN 和 DAE 的效能，并进一步分析了影响它们性能的因素。

    Jan, 2024

  • 计算机网络中的数据污染攻击暴露下的联邦学习漏洞

    数据污染攻击对于计算机网络领域的严重性进行了实证研究，发现 Label Flipping 攻击易于检测，而 Feature Poisoning 攻击难以被察觉，证明了后者在欺骗服务器方面的重要性。

    Mar, 2024

  • 联邦式机器学习的数据注入攻击

    本文旨在研究联邦机器学习中的数据投毒攻击漏洞，使用一个基于多任务学习框架的联邦学习框架，提出了一个自适应的双层优化问题，并提出了一种系统感知的优化方法，ATTack on Federated Learning (AT2FL)，用于计算联邦机器学习中的设备投毒策略。实验结果表明，无论是直接毒害目标节点还是利用通信协议间接毒害相关节点，联邦多任务学习模型都非常容易受到投毒攻击的影响。

    Apr, 2020

  • 拒绝服务或细粒度控制：面向联邦学习的灵活模型投毒攻击

    本文提出了一种灵活的模型中毒攻击方法，即 Flexible Model Poisoning Attack (FMPA)，可以通过使用全局历史信息来构建预测模型并进行微调，达到在没有额外知识的情况下对联邦学习进行攻击的目的，并且可以对全局准确性进行细粒度可控攻击，是目前最优秀的攻击方法之一。

    Apr, 2023

  • 使用变分自编码器和高斯混合模型的联合学习用于行为异常检测

    本研究提出了一种新颖的无监督联邦学习方法，用于在车辆环境中识别潜在的不正常行为。该方法利用公共云服务的计算能力进行模型聚合，并作为不正常行为事件的集中存储库，以实现跨车辆学习和集体防御策略。通过在联邦环境中使用 Gaussian Mixture Models（GMM）和 Variational Autoencoders（VAE）以及 Restricted Boltzmann Machines（RBM）进行预训练和模型聚合，该方法在性能上超过了基于监督技术和人工分割的近期提案（超过 80％）。

    May, 2024

  • Graph-Fraudster：基于图神经网络的纵向联邦学习的对抗性攻击

    本文提出了基于 GVFL 框架的新型攻击方法 Graph-Fraudster，并在五个基准数据集上进行了实验，结果表明该方法在攻击性能上具有最先进的水平，并提出了未来工作的一些建议以改善 GVFL 的稳健性。

    Oct, 2021

  • 针对联邦学习系统的数据污染攻击

    本文研究了面向联邦学习系统的有针对性的数据毒化攻击，通过对恶意参与者的异常检测和排除，提出了一种有效的防御策略。

    Jul, 2020

  • 知识图谱表示学习的对抗鲁棒性

    知识图谱是企业应用中智能决策所必需的关于世界事实知识的概念关系，学习知识图谱嵌入（KGE）模型可以有效地推断新知识。然而，该论文指出，现有的 KGE 模型容易受到数据污染攻击，在预测任务中存在安全漏洞，因此提出了两种新颖的数据污染攻击方法，旨在解决这一问题。

    Sep, 2022

  • 基于虚假客户端的联邦学习模型投毒攻击

    本文提出了一种基于对抗造假客户端的模型毒化攻击（MPAF），在联邦学习系统中注入多个造假客户端向云服务器发送虚假的本地模型更新，将全局模型向具有低准确性的攻击者选定的基础模型方向倾斜，即使采用经典的防御和范数截断，MPAF 也可以显著降低全局模型的测试精度。

    Mar, 2022