reconstruction attacks | BriefGPT

关键词reconstruction attacks

搜索结果 - 13

贝叶斯容量作为联邦学习中重构攻击的度量
在这篇论文中，我们利用信息论量化信息流的框架，形式化了重建威胁模型。我们展示了贝叶斯容量与 DP-SGD 算法泄漏给对重建攻击感兴趣的敌手相关的 Sibson 无穷阶互信息之间的紧密上界。我们提供了实证结果，证明了这一指标在衡量机制对抗重建
PDF15 days ago
机器遗忘的重构攻击：简单模型易受攻击
机器遗忘是出于对数据自治的渴望：一个人可以要求使其数据在部署模型中的影响消失，并且这些模型应该更新，就像重新训练而没有该人的数据一样。然而，我们展示出这些更新与个人之间会暴露出高精度的重构攻击，这使得攻击者可以完整地恢复其数据，即使原始模型
PDFa month ago
对无数据先验的对手的边界重建攻击成功性进行限制
通过实验结果，我们在现实场景中提供了差分隐私机器学习模型下重构成功的明确上界，这有助于在不同上下文和度量标准下进行隐私参数的明智选择。
PDF4 months ago
数据重构攻击和防御：系统评估
在这项工作中，我们提出了一种针对联邦学习环境中的强力重构攻击，该攻击重构了中间特征，并且与大多数先前的方法相比，集成且表现更好。我们在这种更强力的攻击上进行了深入的理论和实证研究，发现梯度剪裁是针对最先进攻击的最有效策略。
PDF5 months ago
AAAIPPIDSG：一种具有 GAN 的隐私保护图像分布共享方案
提出了一个隐私保护图像分布共享方案，并通过 GAN 进行图像分布共享，以避免分类器共享而对模型性能几乎没有影响，进一步应用特征提取器来提高模型效用和独立训练，实验证明该方案在安全性和性能上优于其他现有防御方法。
PDF7 months ago
基于拓扑结构的去重构防护技术在去中心化学习中的应用
分布式学习中的隐私保护求和，在无环网络中无法重构隐私数据，而基于拓扑结构的去重构攻击是首次的拓扑学方法。
PDF7 months ago
对自信度排名的人口普查个体微观数据再建方法的隐私威胁的调查
报告结果表明，提出的置信度排序的重构攻击在重新识别以及属性泄露方面无法有效指导，这一结果进一步证明了使用基于差分隐私的解决方案的必要性，并且展示了适当解释发布的统计聚合数据能更准确地重构普查记录，从而证明了置信度排序的重构无法威胁隐私。
PDF8 months ago
关于重建图像的隐私评估：现有评估指标是否符合人类感知？
手工制作的图像质量度量标准通常被用来评估重建攻击下的模型隐私风险，本文综合研究了这些度量标准与人类隐私信息感知的可信度，并提出了一种基于学习的度量方法 SemSim，该方法在语义级别上更好地反映了隐私泄露，并且与现有度量标准相比具有更高的相
PDF9 months ago
ICCVFIVA：面部图像和视频匿名化与匿名化防御
本文介绍一种新的面部匿名化方法，名为 FIVA，提出了使用身份追踪实现一致的面部匿名化，并保证与原始面部有很强的区别。FIVA 对于 0.001 的误通过率具有 0 的真阳性。我们的工作考虑到了重建攻击这一重要的安全问题，并对对抗性噪声、均
PDF10 months ago
隐私保护对抗性人脸特征
本研究提出了一种基于对抗特征的面部隐私保护 (AdvFace) 方法，通过在对手模型中生成对抗性的潜在噪声来破坏从对抗性特征到面部图像的映射，生成隐私保护的对抗性特征来防御面部重建攻击。实验表明，AdvFace 在维护面部识别准确性的同时，
PDFa year ago
用 Rényi 差分隐私来防御重建攻击
本文研究重建攻击和隐私保护，通过实验表明较大的隐私预算不能保护模型的成员推断，但可以保护好非常罕见的秘密，并提出一种相同机制的更好的重建攻击隐私保证。
PDF2 years ago
CVPR具有自动转换搜索的隐私保护协作学习
本论文提出了一种基于数据增强的解决方案，以防止敌对方从共享的梯度中恢复训练数据，文中使用创新的搜索方法发现数据增强策略，并使用两个新的度量指标来评估策略的影响，实验结果表明该方法能够高效地击败现有的重建攻击，对模型性能影响微不足道。
PDF4 years ago
重新思考隐私保护深度学习：如何评估和阻止隐私攻击
本文研究了隐私保护深度学习机制对于各种形式的隐私攻击的能力，提出了通过重构、追踪和成员攻击量化测量模型准确性和隐私损失之间的权衡，针对重构攻击提出了解决带有噪声的线性方程组的新颖方法，通过 SPN 技术解决了现有 PPDL 方法面临的隐私攻
PDF4 years ago