model inversion attack | BriefGPT

关键词model inversion attack

搜索结果 - 12

通过稀疏编码架构提高对模型反转攻击的鲁棒性
近期的模型反演攻击算法允许攻击者通过多次查询神经网络并检查其输出来重建网络的私密训练数据。本文开发了一种新型网络架构，利用稀疏编码层来提高对此类攻击的抵御能力。相比于多种最先进的防御方法，我们的稀疏编码网络架构在保持相当或更高分类准确性的同
PDF3 months ago
无分类层的人脸识别模型的推理攻击
面部识别领域的研究中，我们提出了一种新的推理攻击模型，包括成员推理攻击和模型反演攻击，用于没有分类层的实际应用模型，将这种攻击模型应用于隐私保护的面部识别技术。
PDF5 months ago
仅标签模型倒装攻击的知识转移
提出了一种基于标签的模型反演攻击 (LOKT) 方法，通过知识转移和代理模型，在最具挑战性的标签唯一可用的攻击设置中提高了攻击成功率，同时突出了机器学习模型面临的日益攀升的隐私威胁。
PDF8 months ago
通过采样预训练扩散模型进行有针对性的图像重建
该研究提出利用预训练扩散模型生成目标类别的数据点的方法，突破先前攻击者需要准确的先验目标分布的限制，以此发动神经网络模型逆推攻击的严重性。
PDFa year ago
Text Revealer: 通过模型反演攻击对 Transformers 进行私密文本重建
本文提出了一种名为 Text Revealer 的模型反演攻击方法，可有效重建训练数据中的私密文本，研究表明该方法对不同文本长度的数据集均有效。
PDF2 years ago
仅标签的模型反演攻击：需要最少信息的攻击
该研究论述了利用模型输出对数据记录进行逆推的方式，给出了基于置信度分数向量和目标模型参数的黑盒和白盒攻击方法，提出了一种仅需要标签输出就能成功逆推的新攻击方法，该方法利用目标模型的错误率计算数据记录到决策边界的中位数距离，生成置信分数向量并
PDF2 years ago
IJCAIGraphMI: 从图神经网络中提取私有图数据
机器学习的广泛应用使得隐私问题变得尤为紧迫。本文提出了一种名为 Graph Model Inversion Attack (GraphMI) 的攻击方法，旨在通过反演目标模型中的 GNN，从而提取训练图的私有图数据。我们提出了投影梯度模块来
PDF3 years ago
ICLR拆分神经网络防御模型反演攻击的实用策略
本文介绍了在分裂网络联合学习模型下，攻击者可以通过模型倒置的攻击手段窃取用户隐私数据，并提出了一种基于简单的加性噪声方法以保护用户数据隐私，同时本文通过对比分析显示，采用现有的方法并不能完全防御攻击，需要采用多种组合的防御策略。
PDF3 years ago
从表示的角度可证明抵御联邦学习中的隐私泄露
本文针对联邦学习系统存在的隐私泄露问题，提出一种学习数据扰动来防止模型逆推攻击的防御策略，实验证明该方法在防御 DLG 和 GS 攻击的同时能够将数据重构误差提高 160 倍以上，有效提升联邦学习系统的隐私保护性能。
PDF4 years ago
遗忘机器学习
该研究论文详细介绍了新颁布的 GDPR 法对机器学习模型隐私保护的重要性，针对深度神经网络模型容易遭受信息泄漏攻击的问题提出了 Unlearning 和 Amnesiac Unlearning 两种数据删除方法，实验证明这两种方法可行、安全
PDF4 years ago
隐私保护与任务导向表征的对抗学习
本文提出了一种对抗性重构学习框架，旨在学习一种以任务为导向的隐私保护表示，以防止模型反演攻击，采用负像素重构损失或负感知距离损失最小化来实现，展示了在面部属性预测任务中我们的方法可以在小幅度降低实用性的情况下保护视觉隐私，并提供了不同特征、
PDF5 years ago
深度网络的成员模型反演攻击
本文介绍了一种更真实的模型反演攻击定义，并利用生成对抗网络的属性构建连通的低维流形。我们在此流形内实施的模型反演攻击表现出高效率。
PDF5 years ago