Dropout 并非防止梯度泄漏所必需

Aug, 2022

Dropout is NOT All You Need to Prevent Gradient Leakage

Daniel Scheliga, Patrick Mäder, Marco Seeland

TL;DR这篇论文研究使用 Dropout 防御梯度反演攻击是否会影响模型效用，发现虽然使用 Dropout 能够一定程度上减少梯度泄露，但其并不能可靠地保护隐私，提出了一种新的 Dropout 反演攻击 (DIA) 来近似原始模型进行攻击，并在四种模型架构和三个不同难度的图像数据集上进行了广泛的系统性评估，最终发现需要结合其他防御措施来保护模型的隐私。

Abstract

gradient inversion attacks on federated learning systems reconstruct client training data from exchanged gradient information. To defend against such attacks, a variety of defense mechanisms were proposed. Howeve

gradient inversion attacks federated learning systems dropout privacy model utility

发现论文，激发创造

Dropout 对抗梯度泄漏

本文提出了在分类器前使用额外的 dropout 层的方法来防止原始数据泄露，以解决在 federal learning 和机器学习中的潜在问题。

Aug, 2021

数据重构攻击和防御：系统评估

在这项工作中，我们提出了一种针对联邦学习环境中的强力重构攻击，该攻击重构了中间特征，并且与大多数先前的方法相比，集成且表现更好。我们在这种更强力的攻击上进行了深入的理论和实证研究，发现梯度剪裁是针对最先进攻击的最有效策略。

Feb, 2024

防御性随机失活用于加固对抗攻击下的深度神经网络

采用防御性抛弃策略来提高神经网络模型的抵御对抗攻击能力，优化测试抛弃率，并通过攻击方与防御方的博弈过程来确定最优策略。相较于随机激活剪枝等其他防御方法，防御性抛弃在 MNIST 数据集上的攻击成功率可以由 100％降至 13.89％。

Sep, 2018

Dropout 攻击

DROPOUTATTACK 是一种新型的神经网络污染攻击，通过操纵选择性地丢弃神经元来破坏 dropout 算子的性能，导致训练减慢、目标类别预测准确性降低、目标类别的精确度或召回率遭到破坏。在实验中，我们使用 VGG-16 模型在 CIFAR-100 上进行训练，攻击可以将受害类别的精确度降低 34.6%（从 81.7% 降至 47.1%），而模型的准确性没有降低。

Sep, 2023

评估联邦学习中的梯度反演攻击与防御

本文研究了梯度反演攻击对联邦学习安全和隐私保护的威胁。针对已有的攻击和防御方法，我们发现某些强假设下的攻击可以通过放宽假设来削弱强度。我们评估了三种防御机制的效果和性能开销，发现在适当的方法组合下，攻击可以更加有效地被抵抗。总体而言，我们提供了潜在的应对策略，并且发现目前最新的攻击已经可以通过稍微降低数据效用的方式来抵御。

Nov, 2021

Transformer 中梯度泄漏的攻击和防御的理论洞察

梯度泄漏攻击与防御策略的全面分析，为基于变压器模型的隐私保护技术的发展做出了积极贡献，旨在促进保护敏感数据和在变压器模型背景下维护隐私的进展。

Nov, 2023

关于正则化对抗隶属推断攻击的有效性

探索深度学习模型对隐私泄露的影响及规避方法，并评估不同正则化机制对防御成员推理攻击的有效性与隐私保护性。

Jun, 2020

关于利用差分隐私和经典正则化技术进行优化的效用与保护

该文探讨了在深度学习模型中如何保护训练数据的隐私，比较了不同优化方法对模型性能、训练效果和隐私攻击的影响，并确定了 dropout 和 l2 正则化作为较优秀的隐私保护方法。

Sep, 2022

Dropout 减少过拟合

本文研究表明，与只在训练后期使用 dropout 的模型不同，在训练开始时使用 dropout 可减弱梯度方向差异和限制单个批次对模型训练的影响，从而更好地提高模型的泛化精度。

Mar, 2023

透过树木看到森林：部分变压器梯度的数据泄漏

分布式机器学习中的梯度反演攻击问题及其对隐私数据的泄露风险进行研究和验证，并发现在语言模型的各个中间层存在训练数据泄露的漏洞。实验证实，单个 Transformer 层甚至一个线性组件的 0.54% 参数的梯度也存在训练数据泄露的问题。此外，研究还表明，在训练过程中对梯度应用差分隐私仅能提供有限的数据泄露保护。

Jun, 2024