reconstruction attack | BriefGPT

关键词reconstruction attack

搜索结果 - 7

扩散模型的安全性研究：基于梯度引导的扩散模型导致严重数据泄漏
通过扩散模型并利用梯度指导的微调方法，我们提出了一种新的重建攻击方法，可通过泄露的梯度从图像处理系统中窃取私密的高分辨率图像。实验结果表明，我们的攻击方法能够成功恢复和窃取分辨率高达 512 x 512 像素的图像。此外，我们的攻击方法在图
PDF19 days ago
基于 CLIP 的从 PEFT 梯度的图像重建
通过理论分析，本文提出了一种基于 CLIP 模型的多模态分布式机器学习架构下的重构攻击方法 Multm-In-Parvo (MIP)，该方法可以根据软提示或适配器的梯度有效地重构 CLIP 模型的训练图像。
PDF4 months ago
分布式学习中的隐私攻击
分布式梯度下降 (D-GD) 允许一组用户在网络图中通过迭代平均本地模型更新与其相邻节点进行协同学习，而无需共享数据。我们提出了针对 D-GD 的第一个攻击，并演示了用户（或一组用户）如何通过回声平均协议的重构攻击来重建其他用户的私有数据，
PDF5 months ago
相似性为基础的隐私测量的不足：针对 “真正匿名合成数据” 的重构攻击
通过评估数据的统计相似性来衡量隐私是不可靠和不一致的，而生成模型只应以差分隐私为标准以保护数据隐私。本文针对领先公司提供的隐私度量指标进行分析，揭示了一些关键的推理缺陷，并提出了成功恢复生成模型中绝大部分用于训练的异常记录的重构攻击 Rec
PDF7 months ago
IJCAI基于频率过滤编码器的隐私安全表示学习
通过引入低通滤波器来增强对抗表示学习方法以保障图像隐私安全，同时在隐私 - 实用性权衡方面优于之前的方法，并通过用户用户研究定性评估了攻击防御性能。
PDF2 years ago
基于信息对手的训练数据重构
研究如何通过反向工程的方法利用少量的反向查询训练数据重建整个机器学习模型，尤其是针对神经网络等更一般的模型，通过实际攻击和差分隐私的方法来防御这种攻击，并探讨其对标准机器学习管道的影响。
PDF2 years ago
NoPeek：减少信息泄露以在分布式深度学习中共享激活
本文提出了一种基于距离相关性降低原始数据和中间表示之间信息泄露的分布式深度学习方法，以应对敏感数据对分布式机器学习服务的限制。该方法在训练和推断过程中通过减少数据和表示之间的距离相关来预防原始数据的重构攻击。实验证明该方法能够有效保护隐私信
PDF4 years ago