Sep, 2022

使用独立成分分析的混合信号攻击：破解基于聚合的联邦学习隐私

HTML
PDF
TL;DR本文介绍了一种名为“Cocktail Party Attack”的攻击手段，该攻击手段通过对全连接层的聚合梯度进行线性组合得出其输入信息，进而通过经典的独立成分分析算法实现了隐私保护机制的突破。该攻击手段在多种情况下表现良好，包括针对卷积神经网络和大批处理大小。
发现论文，激发创造
  • Turbo-Aggregate: 在安全联邦学习中打破二次聚合障碍

    Turbo-Aggregate是一个高效的分布式机器学习模型安全聚合框架，可以在具有N个用户的网络中实现安全聚合的开销为O(NlogN)，同时具备一定程度的容错性和用户隐私保护。

    Feb, 2020

  • 梯度分解：通过重构用户参与矩阵打破联合学习的隐私

    通过聚合模型更新，掌握联邦学习中的用户隐私信息可能存在风险，破坏了联邦学习的数据安全，研究展示了一种攻击方法，通过聚合的模型更新重建用户和其私有训练数据之间的联系，属于一种细致入微、平行操作并具有较高灵敏度的推断攻击。

    Jun, 2021

  • 通过模型不一致性规避联邦学习中的安全聚合

    该研究论文探讨了安全聚合在联邦学习中的应用，发现不当使用安全聚合和缺乏参数校验等问题威胁着联邦学习的隐私和数据安全，提出了两种攻击手法，揭示了当前安全聚合在联邦学习领域中的薄弱之处。

    Nov, 2021

  • 好奇心放任时：联邦学习并不具备隐私性

    在联邦学习中，通过使用陷阱权重进行数据重建攻击，甚至可以从梯度中恢复用户数据，从而破坏了其看似隐私保护的优势。

    Dec, 2021

  • SCOTCH: 一种高效的安全计算框架，用于安全聚合

    SCOTCH是一种分散式多方安全計算架構，可以在分散式學習上實現強隱私保護且具有低通信開銷以及良好的性能，通过在神经网络上实现有效的差分隐私，同时可以在MNIST和ExtendedMNIST（数字）数据集上分别实现96.57%和98.40%的准确率。

    Jan, 2022

  • 流畅：用于私人联邦学习的轮效安全聚合

    FL解决隐私攻击的communication-efficient的secure aggregation方案Fluent，实验结果显示Fluent提高了普通客户端的计算成本至少75%，通信开销至少25%，并通过引入动态客户端加入提升了系统的灵活性和可扩展性。

    Mar, 2024

  • 安全聚合无法抵御成员推断攻击

    在这篇论文中，我们通过将其视为每个本地更新的局部差分隐私机制，深入探讨了SecAgg的隐私影响。我们设计了一种简单的攻击方式，其中一个对抗性的服务器试图在SecAgg下的单一训练轮中辨别客户端提交的两个可能的更新向量之一。通过进行隐私审计，我们评估了该攻击的成功概率，并量化了SecAgg提供的局部差分隐私保证。我们的数值结果揭示，与普遍的声明相反，即使在单一的训练轮中，SecAgg在成员推断攻击方面也提供了较弱的隐私。事实上，当高维度更新时，很难通过添加其他独立的本地更新来隐藏一个本地更新。我们的发现强调了在联邦学习中需要额外的隐私增强机制，比如噪声注入。

    Mar, 2024

  • 打破安全聚合：联邦学习中通过聚合梯度泄漏标签

    提出一种隐蔽标签推断攻击绕过安全聚合从而恢复个体客户的私有标签，并通过理论分析和实验证明该攻击可以在各种数据集和模型架构上以100％的准确性实现大规模标签恢复。

    Jun, 2024

  • 通用联邦学习的收敛差分隐私分析：f-DP 视角

    本研究针对联邦学习中隐私保护不足的问题展开，探讨了现有对于噪声联邦差分隐私分析的局限性。通过引入 f-DP 分析方法，论文证明了 Noisy-FedAvg 方法在隐私保护中的收敛下界，以及 Noisy-FedProx 方法的稳定隐私下界，为联邦学习的隐私保护提供了理论支持，并可推广应用至其他差分隐私分析框架。

    Aug, 2024

  • 联邦学习中的隐私攻击并非易事：一项实验研究

    本研究解决了联邦学习中隐私攻击有效性的问题，尽管已有多种攻击算法，但是否能在现实环境中有效提取用户私密数据仍不确定。通过对相关文献的分析和在真实联邦学习环境中的实验，我们发现目前的隐私攻击算法在实际应用中难以突破用户数据隐私，这表明隐私攻击的难度超出预期。

    Sep, 2024