TrustFed：一种具有恶意攻击抵抗能力的可靠联邦学习框架

Dec, 2023

TrustFed：一种具有恶意攻击抵抗能力的可靠联邦学习框架

TrustFed: A Reliable Federated Learning Framework with Malicious-Attack Resistance

Hangn Su, Jianhong Zhou, Xianhua Niu, Gang Feng

TL;DR提出了一种层次化审计的联邦学习（HiAudit-FL）框架，使用模型审计和参数审计两个阶段来增强学习过程的可靠性和安全性，并通过基于扩散模型的 AI-Enabled 审计选择策略（ASS）和深度强化学习（DRL）框架设计了高效的 DRL-ASS 算法来识别和处理潜在的恶意用户。

Abstract

As a key technology in 6G research, federated learning (FL) enables collaborative learning among multiple clients while ensuring individual data privacy. However, malicious attackers among the participating clients can intentionally tamper with the training data or the trained model, c

federated learning hiaudit-fl hierarchical audit malicious clients drl-ass algorithm

发现论文，激发创造

虚假还是被篡改？理解联邦学习中的恶意客户

本文通过对文献中提出的各种污染攻击和防御聚合规则进行全面分析，并将它们归纳到一个共同框架下，旨在为从业者和研究人员提供对不同类型的威胁的清晰理解，并确定进一步的研究领域。

Mar, 2024

联邦学习中的漏洞调查：一种学习算法的视角

该综述论文对恶意攻击的联邦学习进行了全面的研究，从攻击来源和目标的新视角进行分类，并深入剖析了其方法和影响。文章对以数据攻击模型、模型攻击数据、模型与模型攻击以及复合攻击为类型的威胁模型进行了讨论，并提出了各种防御策略及其效果、假设和潜在改进方向。作者研究表明，在联邦学习系统的不同阶段，可操纵的学习数据、学习梯度和学习模型的恶意攻击日益增多，其影响范围涵盖了破坏模型性能、重构本地私有数据和注入后门等。此文献综述全面了解当前联邦学习威胁形势，并强调了开发稳健、高效和保护隐私的防御措施对于确保联邦学习在实际应用中的安全与可信采纳的重要性。

Nov, 2023

5G 网络安全联邦学习框架

本文提出了一种基于区块链的安全联邦学习框架，通过构建智能合约，自动执行防御策略，识别恶意攻击参与者，同时采用本地差分私有化技术，有效地防止中毒和成员推断攻击。

May, 2020

联邦学习攻击和防御：综述

本文系统总结了目前联邦学习系统中存在的各种攻击和针对性防御，包括学习和预测阶段中对不同角色的攻击，并分析了各种隐私和安全层面的防御机制，旨在为建立更加安全、稳定的联邦学习系统提供参考。

Nov, 2022

联邦学习中的隐私与鲁棒性：攻击与防御

在这篇综述性论文中，作者重点介绍基于联邦学习的系统在应对恶意攻击、保障隐私方面所面临的问题，特别关注如何提高系统鲁棒性和隐私保护措施。

Dec, 2020

联邦学习攻击再探讨：对间隙、假设和评估方案的关键讨论

通过对攻击 FL 的 48 篇相关文章进行系统性的映射研究，我们提供了对所提出的攻击及其评估设置的定量分析。在此基础上，我们揭示了几个关于目标 ML 模型类型、架构和数据分布的研究空白，并提出了一些推荐以避免评估中存在的偏差并促进充分的评估。

Nov, 2021

联邦学习的威胁：综述

本文提供了一种简洁的介绍联邦学习的概念，并使用一个唯一的分类法来涵盖针对联邦学习的威胁模型和两个主要的攻击方法：1) 污染攻击和 2) 推理攻击，探讨了向更强大的隐私保护方向发展的有前途的未来研究方向.

Mar, 2020

区块链在联邦学习中防御恶意行为的应用

提出一种基于区块链和分布式账本技术的安全可靠的联邦学习系统，该系统结合了点对点投票机制和激励 - 惩罚机制来检测和防止恶意行为，理论分析和实证分析表明，该框架抵御了客户端恶意行为。

Jul, 2023

大型语言模型联邦指导调优中涌现的安全攻击与防御

我们首次揭示了 FedIT 中安全对齐的漏洞，提出了一种简单、隐蔽但有效的安全攻击方法，并进一步提出了一种事后防御方法。实验证明，我们的安全攻击方法可以显著破坏 LLM 的安全对齐，而现有的防御方法无法有效防御，而我们的安全防御方法可以显著增强被攻击的 LLM 的安全对齐。

Jun, 2024

FLIP：联邦学习中后门缓解的可证明防御框架

本文介绍了一个理论分析及实验研究结果，关于联邦学习在提高隐私保护的同时，如何防止数据或梯度被恶意污染，通过提出反向工程防御方法，可以保证攻击成功率的减少，并提高对抗性的鲁棒性。

Oct, 2022