基于 GAN 的数据污染框架用于对抗垂直联邦学习中的异常检测

Jan, 2024

基于 GAN 的数据污染框架用于对抗垂直联邦学习中的异常检测

A GAN-based data poisoning framework against anomaly detection in vertical federated learning

Xiaolin Chen, Daoguang Zan, Wei Li, Bei Guan, Yongji Wang

TL;DR在垂直联邦学习中，通过保护数据隐私，商业实体共同训练一个模型。然而，恶意参与者的毒化攻击可能会降低这个合作模型的性能。为了解决这个挑战，本文引入了一种创新的端到端毒化框架 P-GAN。同时，我们还开发了一种基于深度自编码器（DAE）的异常检测算法，为垂直联邦学习情景提供了强大的防御机制。通过大量实验，我们评估了 P-GAN 和 DAE 的效能，并进一步分析了影响它们性能的因素。

Abstract

In vertical federated learning (VFL), commercial entities collaboratively train a model while preserving data privacy. However, a malicious participant's poisoning attack may degrade the performance of this colla

vertical federated learning poisoning attack p-gan deep auto-encoder anomaly detection algorithm

发现论文，激发创造

针对联邦学习的数据不可知模型污染：一种图自编码器方法

该研究提出了一种基于对抗图自编码器的新颖的数据无关型模型污染攻击方法，攻击者通过监听无害的本地模型和全局模型来提取其中的图结构关联，并用对抗性图结构和训练数据特征生成恶意本地模型，导致联邦学习的准确性逐渐下降，现有的防御机制无法检测这种攻击，对联邦学习构成严重威胁。

Nov, 2023

利用变分图表示进行联邦学习模型中毒攻击

本文介绍了一种新的训练数据无控制模型污染攻击方法，该攻击针对联邦学习，在没有访问 FL 的训练数据的情况下，基于获取到的良性局部模型扩展了对抗性变分图自动编码器，从而生成了恶意局部模型。实验表明，基于该攻击方法的 VGAE-MP 攻击会导致联邦学习准确性下降，并且现有的防御机制无法检测到该攻击，对联邦学习构成严重威胁。

Apr, 2024

基于联邦 GAN 的医学图像合成中的后门攻击

本研究提出了一种针对联邦 GAN 的后门攻击方式，并且证明了添加少于 0.5% 的图像大小的触发器可以破坏 FL-GAN 模型，基于此，我们提供了两种有效的防御策略：全局恶意检测和局部训练正则化，并且展示了两种策略相结合可以产生强大的医学图像生成能力。

Jul, 2022

联邦生成对抗网络医学图像合成中的后门攻击和防御

本文研究了联邦生成对抗网络（FedGANs）中后门攻击的问题，提出了一种高效的防御措施 ——FedDetect。在两个不同模态的医学数据集上进行了实验，表明后门攻击会导致低保真度合成图像，但使用 FedDetect 能够抵御此类攻击，以提高分類性能。

Oct, 2022

VFLGAN: 基于垂直联合学习的生成对抗网络用于垂直分割数据发布

基于垂直分割数据发布的纵向联邦学习生成对抗网络 (VFLGAN) 通过提供质量更好的合成数据，显著提高了生成对抗网络的效果，并利用高效有效的高斯机制为合成数据提供差分隐私保证，还在合成数据中应用会员推理攻击的实际审核方案评估隐私泄漏。

Apr, 2024

针对联邦学习系统的数据污染攻击

本文研究了面向联邦学习系统的有针对性的数据毒化攻击，通过对恶意参与者的异常检测和排除，提出了一种有效的防御策略。

Jul, 2020

针对纵向联邦学习的实用通用后门攻击

该研究提出了一种名为 BadVFL 的新型攻击方法，旨在向受害模型注入后门触发器，无需标签信息，并通过 SDD 模块和 SDP 模块实现了攻击的高攻击成功率，是一种有效的针对垂直联邦学习中潜在安全风险的方案。

Jun, 2023

Graph-Fraudster：基于图神经网络的纵向联邦学习的对抗性攻击

本文提出了基于 GVFL 框架的新型攻击方法 Graph-Fraudster，并在五个基准数据集上进行了实验，结果表明该方法在攻击性能上具有最先进的水平，并提出了未来工作的一些建议以改善 GVFL 的稳健性。

Oct, 2021

联邦式机器学习的数据注入攻击

本文旨在研究联邦机器学习中的数据投毒攻击漏洞，使用一个基于多任务学习框架的联邦学习框架，提出了一个自适应的双层优化问题，并提出了一种系统感知的优化方法，ATTack on Federated Learning (AT2FL)，用于计算联邦机器学习中的设备投毒策略。实验结果表明，无论是直接毒害目标节点还是利用通信协议间接毒害相关节点，联邦多任务学习模型都非常容易受到投毒攻击的影响。

Apr, 2020

使用变分自编码器和高斯混合模型的联合学习用于行为异常检测

本研究提出了一种新颖的无监督联邦学习方法，用于在车辆环境中识别潜在的不正常行为。该方法利用公共云服务的计算能力进行模型聚合，并作为不正常行为事件的集中存储库，以实现跨车辆学习和集体防御策略。通过在联邦环境中使用 Gaussian Mixture Models（GMM）和 Variational Autoencoders（VAE）以及 Restricted Boltzmann Machines（RBM）进行预训练和模型聚合，该方法在性能上超过了基于监督技术和人工分割的近期提案（超过 80％）。

May, 2024