NeuGuard：轻量级神经元引导的成员推断攻击防御

Jun, 2022

NeuGuard：轻量级神经元引导的成员推断攻击防御

NeuGuard: Lightweight Neuron-Guided Defense against Membership Inference Attacks

Nuo Xu, Binghui Wang, Ran Ran, Wujie Wen, Parv Venkitasubramaniam

TL;DR本文提出了一种名为 NeuGuard 的神经元引导防御方法，用于防御机器学习模型的隐私风险，该方法包含限制最终输出神经元和内部神经元激活的班级方差最小化和层平衡输出控制，且在对比实验中表现优异。

Abstract

membership inference attacks (MIAs) against machine learning models can lead to serious privacy risks for the training dataset used in the model training. In this paper, we propose a novel and effective

membership inference attacks privacy risks neuron-guided defense neural network based mias training set

发现论文，激发创造

MemGuard: 对抗性样本防御黑盒成员推断攻击

该研究提出了一种名为 MemGuard 的新型防御机制，通过添加特定的噪声向量来抵御成员推断攻击，实现更好的隐私保护和安全性，并通过实验验证了该机制的有效性和优越性。

Sep, 2019

GNNGuard: 防御图神经网络的对抗攻击

GNNGuard 是一个通用的算法，可以防御基于离散图形结构的多种训练时攻击，利用图形结构和节点特征之间的关系减轻攻击的负面影响，通过将更高的权重分配给连接相似节点的边，修剪不相关节点之间的边，这种方法在不同数据集和攻击条件下表现出 15.3％的优越性。

Jun, 2020

图神经网络成员推断攻击

本文研究了基于图神经网络的成员推理攻击技术，发现 GNN 中结构信息是造成泄漏的主要原因，提出了两种有效防御方法，可将攻击者的推理准确率降低 60%。

Jan, 2021

将成员推理攻击应用于 GNN 图分类：方法和影响

本论文针对图神经网络的成员推断攻击扩展到了整个图记录的成员推断，通过不同的攻击能力实现了两种攻击类型：基于训练的攻击和基于阈值的攻击，并在七个真实数据集中使用五种代表性的 GNN 模型进行了全面的实验评估，结果表明我们的攻击方法是有效的，对于图级分类任务的 MIAs 更多地与 GNN 的过拟合水平有关。

Oct, 2021

GraphGuard：图神经网络中检测和对抗训练数据滥用

GraphGuard 是一个无需训练数据的方法，通过使用具有电离辐射特性的数据进行成员推断，提高成员和非成员数据分布的可区分性，从而在不依赖原始数据的情况下检测并通过有针对性的遗忘来减轻图数据滥用的影响。

Dec, 2023

分割：使用扩散模型保护击剑会员隐私

通过引入生成模型，我们提出了一种新颖的防御框架来保护深度学习模型免受成员推断攻击，其中我们的防御方法在输入样本上工作，不需要修改目标模型的训练或推理阶段，从而在隐私性和模型效用之间取得新的最佳表现。

Dec, 2023

机器学习中的成员推断攻击：一项调查

本文首次对机器学习中的成员推理攻击及其防御措施进行了全面调查，提供了攻击和防御的分类学及其优缺点，并指出了相关领域的研究限制和未来方向，为研究社区提供了参考。

Mar, 2021

利用策略网络信息对动态神经网络发起一种新颖的成员推理攻击

本文提出了一种针对动态神经网络的成员推理攻击方法，利用其独特的策略网络机制提高攻击效率，并在四个主流图像分类任务上进行了广泛实验，控制流信息可以显著提高攻击效果。

Oct, 2022

RelaxLoss：在不损失效用的情况下防御成员推断攻击

通过提出一种基于松弛损失的新型训练框架，RelaxLoss，使得机器学习模型对隐私成了更加稳健，提高了鲁棒性和模型效用。

Jul, 2022

揭示无法察觉的事物：通过可解释性探索白盒成员推断的视角

通过统计方法，本文旨在解决隐含特征对攻击效果的影响以及基于原始数据特征的攻击根本原因不足的问题，并提出了一个攻击驱动的可解释框架，通过集成目标和攻击模型，识别导致成功成员推理攻击的原始数据上最具影响力的特征。我们提出的攻击显示了与最先进的攻击技术相比高达 26％的改进。

Jul, 2024