ICMLJun, 2021

梯度分解：通过重构用户参与矩阵打破联合学习的隐私

PDF
TL;DR通过聚合模型更新，掌握联邦学习中的用户隐私信息可能存在风险，破坏了联邦学习的数据安全，研究展示了一种攻击方法，通过聚合的模型更新重建用户和其私有训练数据之间的联系，属于一种细致入微、平行操作并具有较高灵敏度的推断攻击。
federated learningprivacyinference attacksaggregated model updatesdata privacy
发现论文，激发创造
  • 通过修改模型直接获得联邦学习中的私人数据

    这项研究介绍了一种基于最小但恶意修改的共享模型架构的新威胁模型，使服务器能够直接从梯度更新中获取用户数据的逐字副本，即使是在大批量情况下的用户数据也能被这些略有修改的模型重构。

    Oct, 2021

  • 反演梯度 —— 联邦学习隐私保护的易破性探究

    本文研究联邦学习中参数梯度共享机制的安全性，并通过实证研究表明，在计算机视觉领域，即使对多个迭代或多个图像进行梯度平均处理，也无法保护用户隐私。

    Mar, 2020

  • 在联邦学习中防范多轮隐私泄露：保障安全聚合

    本研究提出一种具有多轮隐私保障的安全聚合框架，包括一个新的衡量指标来量化联邦学习的隐私保证，并开发了一种结构化的用户选择策略来保证每个用户的长期隐私（在任意数量的训练轮次下），并在 MNIST 和 CIFAR-10 数据集上进行了实验。

    Jun, 2021

  • 好奇心放任时：联邦学习并不具备隐私性

    在联邦学习中，通过使用陷阱权重进行数据重建攻击，甚至可以从梯度中恢复用户数据，从而破坏了其看似隐私保护的优势。

    Dec, 2021

  • 联邦学习的聚合服务：高效、安全、更具韧性的实现

    本文介绍了一个基于轻量级加密和数据混淆的联邦学习系统，结合恰当的带宽效率优化和对云服务器主动攻击的安全保护机制，在保证客户端数据隐私的前提下，整合来自多源的数据进行联合训练，并在多项数据集（MNIST、CIFAR-10、CelebA）上验证该系统的可行性及精度。

    Feb, 2022

  • 无线联邦学习中异构集群的隐私聚合

    本文介绍了一种私有集成学习方案，以处理联合学习中的隐私问题，并推导出信息论隐私所需的通信成本的基本限制。

    Jun, 2023

  • 混洗模型下的可扩展差分隐私分布式聚合

    该论文提出了一个在混淆模型下更高效的隐私安全的聚合协议，可以使得通信量和误差只呈对数级增长，并且采用了一个称为 ' 隐身斗篷 ' 的新技术来实现此目的，该技术可以使得每个数据项与噪声几乎不可区分，同时对总和不会造成任何扭曲。

    Jun, 2019

  • 用户数据联邦学习的实用安全聚合

    本文设计了一种新的通信有效的安全聚合协议，适用于在移动设备上跨用户训练数据使用分布式随机梯度下降算法进行联邦学习模型的训练，从而保护每个用户的模型梯度，并且在大规模的高维数据上具有较好的性能表现。

    Nov, 2016

  • 从联邦学习推断用户级隐私泄露：超越类别代表的挖掘

    本文第一次探索了一种恶意攻击来破坏联邦学习中的用户级别隐私泄漏，并提出一种结合了 GAN 和多任务鉴别器的框架，该框架在客户端标识上具有新颖的识别，使生成器能够恢复用户指定的私有数据。

    Dec, 2018

  • 安全聚合并不是你所需要的一切：使用噪声容忍度在联邦学习中缓解隐私攻击

    本文研究了在联合学习中，如果服务端是恶意的但试图获得私人数据，会面临什么样的安全聚合漏洞，并提供了一种进一步防御此类恶意服务器的方法，并展示了防御针对已知攻击的有效性。

    Nov, 2022