RAIFLE：面向交互式联邦学习的重构攻击与主动数据篡改

Oct, 2023

RAIFLE：面向交互式联邦学习的重构攻击与主动数据篡改

RAIFLE: Reconstruction Attacks on Interaction-based Federated Learning with Active Data Manipulation

Dzung Pham, Shreyas Kulkarni, Amir Houmansadr

TL;DR该研究论文讨论了交互式联邦学习中用户隐私的挑战，并提出了一种基于优化的攻击框架 RAIFLE，它通过主动操纵训练数据来恶意影响本地更新，从而对隐私进行破坏。最后，提出了一些抵御该攻击的指导方针。

Abstract

federated learning (FL) has recently emerged as a privacy-preserving approach for machine learning in domains that rely on user interactions, particularly recommender systems (RS) and online learning to rank (OLTR). While there has been substantial research on the privacy of traditiona

federated learning interaction-based federated learning user privacy reconstruction attack framework privacy defenses

发现论文，激发创造

联邦学习中的隐私与鲁棒性：攻击与防御

在这篇综述性论文中，作者重点介绍基于联邦学习的系统在应对恶意攻击、保障隐私方面所面临的问题，特别关注如何提高系统鲁棒性和隐私保护措施。

Dec, 2020

联邦学习攻击和防御：综述

本文系统总结了目前联邦学习系统中存在的各种攻击和针对性防御，包括学习和预测阶段中对不同角色的攻击，并分析了各种隐私和安全层面的防御机制，旨在为建立更加安全、稳定的联邦学习系统提供参考。

Nov, 2022

联邦学习的威胁：综述

本文提供了一种简洁的介绍联邦学习的概念，并使用一个唯一的分类法来涵盖针对联邦学习的威胁模型和两个主要的攻击方法：1) 污染攻击和 2) 推理攻击，探讨了向更强大的隐私保护方向发展的有前途的未来研究方向.

Mar, 2020

TrustFed：一种具有恶意攻击抵抗能力的可靠联邦学习框架

提出了一种层次化审计的联邦学习（HiAudit-FL）框架，使用模型审计和参数审计两个阶段来增强学习过程的可靠性和安全性，并通过基于扩散模型的 AI-Enabled 审计选择策略（ASS）和深度强化学习（DRL）框架设计了高效的 DRL-ASS 算法来识别和处理潜在的恶意用户。

Dec, 2023

联邦学习中基于局部差分隐私的主动成员推断攻击

本文提出了一种新的利用非线性决策边界来进行攻击的 Federated learning 中的主动成员推断（AMI）攻击方式，可以在强烈的本地差分隐私（LDP）的保护下获得高成功率。我们的理论和实验结果表明，为了防止这种攻击，加入足够的隐私保护噪声将会严重损害 FL 的模型效用。

Feb, 2023

联邦学习中的数据重构攻击防御：一种信息论方法

在分布式学习中，我们提出了一种通过限制传输信息量并应用数据空间操作的渠道模型，以提高数据重构攻击下的隐私保护，验证了方法的有效性。

Mar, 2024

从表示的角度可证明抵御联邦学习中的隐私泄露

本文针对联邦学习系统存在的隐私泄露问题，提出一种学习数据扰动来防止模型逆推攻击的防御策略，实验证明该方法在防御 DLG 和 GS 攻击的同时能够将数据重构误差提高 160 倍以上，有效提升联邦学习系统的隐私保护性能。

Dec, 2020

防御竖直联邦学习中的重构攻击

本文研究了在纵向联邦学习中防御输入泄漏攻击的方法，提出了一种基于对抗训练的框架，包含敌对重建、噪声正则化和距离相关性最小化三个模块，此框架能够有效保护输入隐私同时保留了模型的效用。

Jul, 2021

走向个性化联邦学习

本综述论文研究了个性化联邦学习（PFL）的领域，着重解决异构数据带来的基本问题，通过分类和分析 PFL 技术，提出其关键挑战和机会，并展望了未来研究的发展方向。

Mar, 2021

联邦学习攻击再探讨：对间隙、假设和评估方案的关键讨论

通过对攻击 FL 的 48 篇相关文章进行系统性的映射研究，我们提供了对所提出的攻击及其评估设置的定量分析。在此基础上，我们揭示了几个关于目标 ML 模型类型、架构和数据分布的研究空白，并提出了一些推荐以避免评估中存在的偏差并促进充分的评估。

Nov, 2021