能否相信联邦学习中的相似度测量？

Oct, 2023

能否相信联邦学习中的相似度测量？

Can We Trust the Similarity Measurement in Federated Learning?

Zhilin Wang, Qin Hu, Xukai Zou

TL;DR在联邦学习中，本文探讨了使用相似性度量（如 L_2 范数、欧氏距离和余弦相似度）保护联邦学习的一种未知安全威胁，揭示了相似性度量在高维本地模型中评估为相同但参数值显著不同的弱点，设计了一种新型的非定向模型中毒攻击 Faker，它通过同时最大化被中毒本地模型的评估相似性和参数值的差异来发起攻击，实验结果表明 Faker 在精度降低方面优于基准攻击，并可降低时间成本，甚至用于对 FL 系统具有有限知识的单个恶意客户端，Faker 可以一次性降低全局模型的性能，此外，本文还初步探讨了将 Faker 扩展到其他攻击类型，如后门攻击和赛贝尔攻击，并提供了一种模型评估策略 SPP 来防御 Faker，鉴于 FL 中许多机制使用相似性度量来评估本地模型，本研究表明我们应对使用这些度量的潜在风险保持警惕。

Abstract

Is it secure to measure the reliability of local models by similarity in federated learning (FL)? This paper delves into an unexplored security threat concerning applying similarity metrics, such as the L_2 norm,

federated learning similarity metrics model poisoning attack adversarial attacks model evaluation strategy

发现论文，激发创造

跨域联邦学习的数据集相似度通用度量

我们提出了一种用于评估数据集相似性的新型指标，该指标具有 FL 所需的几个理想特性：与数据集无关、以隐私保护的方式计算、计算效率高，无需模型训练。我们在合成、基准和医疗成像数据集等一系列数据集上对这一指标进行了广泛评估，证明了它与模型性能具有稳健且可解释的关系，并且可以以隐私保护的方式计算。作为第一个联邦数据集相似性指标，我们相信这一指标可以更好地促进站点之间的成功合作。

Apr, 2024

联邦学习中的漏洞调查：一种学习算法的视角

该综述论文对恶意攻击的联邦学习进行了全面的研究，从攻击来源和目标的新视角进行分类，并深入剖析了其方法和影响。文章对以数据攻击模型、模型攻击数据、模型与模型攻击以及复合攻击为类型的威胁模型进行了讨论，并提出了各种防御策略及其效果、假设和潜在改进方向。作者研究表明，在联邦学习系统的不同阶段，可操纵的学习数据、学习梯度和学习模型的恶意攻击日益增多，其影响范围涵盖了破坏模型性能、重构本地私有数据和注入后门等。此文献综述全面了解当前联邦学习威胁形势，并强调了开发稳健、高效和保护隐私的防御措施对于确保联邦学习在实际应用中的安全与可信采纳的重要性。

Nov, 2023

pFedSim: 面向个性化联邦学习的相似性感知模型集成

提出一种结合局部模型聚合与神经网络解耦技术的个性化联邦学习算法 (pFedSim)，在保护数据隐私的前提下，显著提高模型精度且计算和通信开销低。

May, 2023

5G 网络安全联邦学习框架

本文提出了一种基于区块链的安全联邦学习框架，通过构建智能合约，自动执行防御策略，识别恶意攻击参与者，同时采用本地差分私有化技术，有效地防止中毒和成员推断攻击。

May, 2020

递归欧几里得距离基于鲁棒性聚合技术的联邦学习

本文讨论了联邦学习中的恶意攻击问题，并提出了一种基于递归欧几里得距离计算的新的强大聚合方法，该方法根据局部模型距离上一个全局模型的距离来分配权重，以便减小数据中毒的效应。实验证明，该算法在准确性方面优于最先进的算法至少 5％，同时将时间复杂度降低不到 55％。

Mar, 2023

联邦学习的安全与隐私问题

分布式学习中的联邦学习存在安全和隐私挑战，本研究针对各类机器学习模型，包括大型语言模型，提出了安全和隐私挑战的综合分类，重点关注聚合器和参与者的攻击，包括投毒攻击、后门攻击、成员推断攻击、生成对抗网络攻击和差分隐私攻击，同时提出了未来研究的新方向，旨在强化联邦学习系统以应对新兴安全风险并保护分布式学习环境中的敏感数据隐私。

Jul, 2023

联邦学习的威胁：综述

本文提供了一种简洁的介绍联邦学习的概念，并使用一个唯一的分类法来涵盖针对联邦学习的威胁模型和两个主要的攻击方法：1) 污染攻击和 2) 推理攻击，探讨了向更强大的隐私保护方向发展的有前途的未来研究方向.

Mar, 2020

联邦学习攻击再探讨：对间隙、假设和评估方案的关键讨论

通过对攻击 FL 的 48 篇相关文章进行系统性的映射研究，我们提供了对所提出的攻击及其评估设置的定量分析。在此基础上，我们揭示了几个关于目标 ML 模型类型、架构和数据分布的研究空白，并提出了一些推荐以避免评估中存在的偏差并促进充分的评估。

Nov, 2021

联邦学习中的隐私与鲁棒性：攻击与防御

在这篇综述性论文中，作者重点介绍基于联邦学习的系统在应对恶意攻击、保障隐私方面所面临的问题，特别关注如何提高系统鲁棒性和隐私保护措施。

Dec, 2020

联邦学习中评估渗漏攻击的框架

本文提出了一个原则性框架来评估和比较不同形式的客户隐私泄漏攻击。我们提供了正式和实验分析表明，攻击者可以通过分析本地训练的共享参数更新 (例如，本地梯度或权重更新向量) 来重构私有本地训练数据。该论文还分析了联邦学习中不同超参数配置和攻击算法设置对攻击效果和代价的影响，并且给出了在使用通信高效的 FL 协议时不同梯度压缩比下客户隐私泄漏攻击的有效性的测量、评估和分析。最后，我们提供了一些初步的缓解策略，以突出提供系统化的攻击评估框架来深入了解联邦学习中各种形式的客户隐私泄漏威胁并发展攻击缓解的理论基础。

Apr, 2020