SAPAG：一种自适应的梯度隐私攻击

Sep, 2020

SAPAG：一种自适应的梯度隐私攻击

SAPAG: A Self-Adaptive Privacy Attack From Gradients

Yijue Wang, Jieren Deng, Dan Guo, Chenghong Wang, Xianrui Meng...

TL;DR本文提出了一种新的基于高斯核的梯度隐私攻击方法 SAPAG，它能够构建出不同 Deep Neural Networks 带不同权重初始化的、处于任意训练阶段的数据集，从而解决了现有模型易被攻击的问题。

Abstract

distributed learning such as federated learning or collaborative learning enables model training on decentralized data from users and only collects local gradients, where data is processed close to its sources fo

distributed learning federated learning privacy issues gradient reconstruction deep neural networks

发现论文，激发创造

R-GAP: 递归梯度攻击隐私

本研究提出了一种递归梯度攻击算法（R-GAP）及排名分析方法，能够从梯度中恢复原始数据并评估网络结构的安全性，实验结果表明该算法能在一定的条件下以较小的计算量实现与优化方法同等甚至更好的隐私保护。

Oct, 2020

通过梯度聚合提升通用对抗干扰的泛化性能

本文研究了深度神经网络对通用对抗扰动（UAP）的脆弱性，提出了一种名为随机梯度聚合（SGA）的简单有效方法，用于缓解梯度消失和逃离贫弱局部最优问题，并证实在标准 ImageNet 数据集上表现优于其他最先进方法。

Aug, 2023

梯度分解：通过重构用户参与矩阵打破联合学习的隐私

通过聚合模型更新，掌握联邦学习中的用户隐私信息可能存在风险，破坏了联邦学习的数据安全，研究展示了一种攻击方法，通过聚合的模型更新重建用户和其私有训练数据之间的联系，属于一种细致入微、平行操作并具有较高灵敏度的推断攻击。

Jun, 2021

分布式学习中的隐私攻击

分布式梯度下降 (D-GD) 允许一组用户在网络图中通过迭代平均本地模型更新与其相邻节点进行协同学习，而无需共享数据。我们提出了针对 D-GD 的第一个攻击，并演示了用户（或一组用户）如何通过回声平均协议的重构攻击来重建其他用户的私有数据，验证了攻击的有效性和对用户数量、攻击者数量及其在图中的位置等因素的影响。

Feb, 2024

基于共识算法的差分隐私分散深度学习

本研究提出了一种基于不同隐私的分散式深度学习方法，该方法对协作学习的数据进行隐私保护，保障节点之间数据的安全交换。实验结果表明，在稀疏图和不均匀数据分布下，不同隐私梯度跟踪具有抗干扰性，并且可在不向其他代理共享原始数据的情况下学习高准确性模型。

Jun, 2023

防范梯度泄漏攻击的分布式 SGD 安全技术

本文提出了一种梯度泄露弹性分布式随机梯度下降方法，并通过差分隐私噪声控制来保证隐私安全，实验分析表明，该方法在保障差分隐私安全、模型性能和抗梯度泄露攻击性能方面优于现有方法。

May, 2023

安全聚合无法抵御成员推断攻击

在这篇论文中，我们通过将其视为每个本地更新的局部差分隐私机制，深入探讨了 SecAgg 的隐私影响。我们设计了一种简单的攻击方式，其中一个对抗性的服务器试图在 SecAgg 下的单一训练轮中辨别客户端提交的两个可能的更新向量之一。通过进行隐私审计，我们评估了该攻击的成功概率，并量化了 SecAgg 提供的局部差分隐私保证。我们的数值结果揭示，与普遍的声明相反，即使在单一的训练轮中，SecAgg 在成员推断攻击方面也提供了较弱的隐私。事实上，当高维度更新时，很难通过添加其他独立的本地更新来隐藏一个本地更新。我们的发现强调了在联邦学习中需要额外的隐私增强机制，比如噪声注入。

Mar, 2024

一种自适应快速收敛的差分隐私深度学习方法

本文提出了 ADADP 算法，该算法是一种自适应且具有可证明隐私保证的学习算法，通过引入自适应噪声以及自适应学习率，显著降低了隐私成本并减轻了差分隐私对模型准确性的负面影响。ADADP 在真实数据集上的实验结果表明，它在隐私成本和模型准确性方面都优于最先进的具有差分隐私的方法。

Dec, 2019

梯度混淆在联邦学习中会产生虚假的安全感

本文提出针对联邦学习中的图像分类任务的新型数据重构攻击框架，并证明了通常采用的梯度后处理程序可能会给联邦学习中的数据隐私保护带来虚假的安全感。作者设计了一种基于语义级数据重构的新方法，并与传统的基于图像相似度分数的方法进行了比较。结果表明，需要重新审视和重新设计现有联邦学习算法中客户端数据隐私保护机制的重要性。

Jun, 2022

GRNN: 生成回归神经网络 -- 针对联邦学习的数据泄漏攻击

本文介绍了一种名为 GRNN 的新方法，该方法利用了生成对抗网络（GAN）来恢复共享梯度中的隐私信息。结果表明，这种方法在图像分类任务中表现出更好的稳定性、更强的鲁棒性和更高的准确性，同时无需全局 FL 模型的收敛要求，具有非常多的实用价值。

May, 2021