R-CONV：一种通过卷积梯度实现高效数据重建的分析方法

Jun, 2024

R-CONV：一种通过卷积梯度实现高效数据重建的分析方法

R-CONV: An Analytical Approach for Efficient Data Reconstruction via Convolutional Gradients

Tamer Ahmed Eltaras, Qutaibah Malluhi, Alessandro Savino, Stefano Di Carlo, Adnan Qayyum...

TL;DR该研究论文介绍了一种高级数据泄漏方法，可以高效地利用卷积层的梯度，证明了现有用于估计梯度攻击风险的分析方法缺乏准确性。

Abstract

In the effort to learn from extensive collections of distributed data, federated learning has emerged as a promising approach for preserving privacy by using a gradient-sharing mechanism instead of exchanging raw data. However, recent studies show that private training data can be leak

federated learning gradient attacks convolutional layers data leakage method gradient constraints

发现论文，激发创造

神经网络图像分类中的梯度泄露训练数据理解

本文分析了基于梯度下降的攻击如何泄露深度学习模型的训练数据，并提出了一种度量安全性的指标，同时也提出了一种用于解决重构训练数据的优化问题的方法。

Nov, 2021

卷积滤波器何时易于学习？

通过随机梯度下降算法和 ReLU 激活函数，我们分析了卷积滤波器的收敛性。我们的研究不依赖于任何特定形式的输入分布，证明了基于梯度的算法在多项式时间内可以学习卷积滤波器，且收敛速度取决于输入分布的平滑度和卷积核的密度。此理论证明了深度神经网络中的两阶段学习率策略并提出了卷积滤波器的新的较弱恢复保证。

Sep, 2017

使用梯度混合策略增强联邦学习中的隐私保护

本文探究了几个神经网络设计决策如何防御梯度反演攻击，提出重叠梯度可以在高度易受攻击的全连接层上提供数值抵抗，并通过合适的损失函数和相同标签的批处理最大程度地混合梯度，从而避免了数据泄露的风险，并提出了一个基于绝对变异距离的信息泄露连续统计，最终通过经验结果验证所提出的防御策略对信息恢复有一定的应用。

Apr, 2022

R-GAP: 递归梯度攻击隐私

本研究提出了一种递归梯度攻击算法（R-GAP）及排名分析方法，能够从梯度中恢复原始数据并评估网络结构的安全性，实验结果表明该算法能在一定的条件下以较小的计算量实现与优化方法同等甚至更好的隐私保护。

Oct, 2020

联邦学习中的最小模型结构分析用于输入重构

本文研究了联邦学习中关于隐私泄露的问题，展示了神经网络梯度下降只需知道梯度即可重构输入数据的理论成果，并提出了一些稳定性和速度上的优化方法。通过实验验证和不同数据集的比较，我们的方法最大限度的提升了联邦学习中隐私保护的能力。

Oct, 2020

消除梯度反转攻击中的硬标签约束

本论文研究梯度反转攻击在联邦学习框架下从中间梯度中重建本地训练数据，提出了一种基于分析的算法来同时恢复单输入梯度中的真实增强标签和最后全连接层的输入特征，并证明了该算法对标签恢复的准确性以及对随后的图像重建的好处，强调了分类任务中软标签在梯度反转攻击中值得进一步关注。

Feb, 2024

透过梯度：通过梯度反演进行图像批量恢复

使用 GradInversion 算法，结合梯度计算和图像还原技术，在保护隐私的前提下，能准确地从深度神经网络的训练中恢复待处理图片，并可在多个任务中实现高度复现的效果。

Apr, 2021

反演梯度 —— 联邦学习隐私保护的易破性探究

本文研究联邦学习中参数梯度共享机制的安全性，并通过实证研究表明，在计算机视觉领域，即使对多个迭代或多个图像进行梯度平均处理，也无法保护用户隐私。

Mar, 2020

GRNN: 生成回归神经网络 -- 针对联邦学习的数据泄漏攻击

本文介绍了一种名为 GRNN 的新方法，该方法利用了生成对抗网络（GAN）来恢复共享梯度中的隐私信息。结果表明，这种方法在图像分类任务中表现出更好的稳定性、更强的鲁棒性和更高的准确性，同时无需全局 FL 模型的收敛要求，具有非常多的实用价值。

May, 2021

基于 GAN 反演的线性收敛算法用于逆向工程欺骗行为

本文提出了一种基于 GAN 和稀疏恢复的欺骗反向工程框架，为此提供了确定性线性收敛保证，并在多个非线性数据集上展示了该方法的优点。

Jun, 2023