协作学习是一种分布式学习框架，旨在通过共享梯度更新，保护用户隐私。然而，梯度反演攻击对协作学习构成严重的隐私威胁。现有的防御方法在隐私、效用和效率之间存在着很大的折衷。为了克服现有解决方案的缺点，我们提出了一种新的防御方法，双梯度修剪（DGP），基于梯度修剪，可以提高通信效率，同时保护协作学习的效用和隐私。我们的实验证明，DGP 能够有效地抵御最强大的梯度反演攻击，并在不牺牲模型效用的情况下降低通信成本。

Jan, 2024

通过对图结构进行连续松弛和参数化，我们提出了一种名为 Differentiable Graph Attack（DGA）的新型攻击方法，以高效生成有效的攻击并同时消除了昂贵的重新训练的需求。与最新技术相比，DGA 在不同基准数据集上实现了几乎相等的攻击性能，训练时间减少了 6 倍，GPU 内存占用减少了 11 倍。此外，我们还对 DGA 在不同图模型之间的可转移性以及对广泛使用的防御机制的鲁棒性进行了广泛的实验分析。

Aug, 2023

本研究提出了一种基于不同隐私的分散式深度学习方法，该方法对协作学习的数据进行隐私保护，保障节点之间数据的安全交换。实验结果表明，在稀疏图和不均匀数据分布下，不同隐私梯度跟踪具有抗干扰性，并且可在不向其他代理共享原始数据的情况下学习高准确性模型。

Jun, 2023

本研究提出了一种递归梯度攻击算法（R-GAP）及排名分析方法，能够从梯度中恢复原始数据并评估网络结构的安全性，实验结果表明该算法能在一定的条件下以较小的计算量实现与优化方法同等甚至更好的隐私保护。

Oct, 2020

通过聚合模型更新，掌握联邦学习中的用户隐私信息可能存在风险，破坏了联邦学习的数据安全，研究展示了一种攻击方法，通过聚合的模型更新重建用户和其私有训练数据之间的联系，属于一种细致入微、平行操作并具有较高灵敏度的推断攻击。

Jun, 2021

分布式学习中的隐私保护求和，在无环网络中无法重构隐私数据，而基于拓扑结构的去重构攻击是首次的拓扑学方法。

Dec, 2023

本文提出了一种新的基于高斯核的梯度隐私攻击方法 SAPAG，它能够构建出不同 Deep Neural Networks 带不同权重初始化的、处于任意训练阶段的数据集，从而解决了现有模型易被攻击的问题。

Sep, 2020

本研究提出了 DGREC，一种新的分散式图神经网络推荐系统，用于保护隐私，在用户选择公开其互动时仍能确保通信效率和隐私保护。

Aug, 2023

在这项工作中，我们提出了一种针对联邦学习环境中的强力重构攻击，该攻击重构了中间特征，并且与大多数先前的方法相比，集成且表现更好。我们在这种更强力的攻击上进行了深入的理论和实证研究，发现梯度剪裁是针对最先进攻击的最有效策略。

Feb, 2024

通过特征基对抗攻击研究了图在现代社交媒体和学术应用中所具有的复杂网络，并侧重于决策时攻击和毒化攻击，与 Net Attack 和 Meta Attack 等现有模型不同，我们的研究专门针对节点属性。利用 Hellaswag 文本数据集和 Cora 以及 CiteSeer 图数据集进行了分析，结果发现使用投影梯度下降的决策时攻击比使用平均节点嵌入和图对比学习策略的毒化攻击更强大，这为图数据安全提供了启示，指出了图模型最脆弱的部分，从而推动了对此类攻击的更强大防御机制的开发。

Feb, 2024