privacy vulnerabilities | BriefGPT

关键词privacy vulnerabilities

搜索结果 - 10

揭示无法察觉的事物：通过可解释性探索白盒成员推断的视角
通过统计方法，本文旨在解决隐含特征对攻击效果的影响以及基于原始数据特征的攻击根本原因不足的问题，并提出了一个攻击驱动的可解释框架，通过集成目标和攻击模型，识别导致成功成员推理攻击的原始数据上最具影响力的特征。我们提出的攻击显示了与最先进的攻
PDF5 days ago
UIFV：纵向联邦学习中的数据重构攻击
利用统一 InverNet 框架引入 VFL 中，通过利用中间特征数据重构原始数据，而不是依赖于梯度或模型细节，我们的研究揭示了 VFL 系统中的严重隐私漏洞，这对实际 VFL 应用构成了真正的威胁，并证实了进一步增强 VFL 架构中的隐私
PDF18 days ago
KDD通过隐私保护特征增强解决联邦学习中的数据稀缺和标签偏斜问题
使用 FLea 框架进行联邦学习，通过全局特征缓冲区、特征增强和模糊化方法来解决分布式设备中稀缺和标签倾斜数据引起的局部模型过拟合和漂移问题，并在各种数据模态下进行实验证明其优越性，并降低了共享特征的隐私风险。
PDF23 days ago
ACL可迁移性嵌入反转攻击：揭示文本嵌入的隐私风险，无需模型查询
研究了与文本嵌入相关的隐私风险，重点关注攻击者无法访问原始嵌入模型的情景。通过开发一种传递攻击方法，利用替代模型模拟受害模型的行为，使攻击者能够从文本嵌入中推断敏感信息，从而揭示了嵌入技术中潜在的隐私漏洞，强调了加强安全措施的必要性。
PDF24 days ago
通过稀疏编码架构提高对模型反转攻击的鲁棒性
近期的模型反演攻击算法允许攻击者通过多次查询神经网络并检查其输出来重建网络的私密训练数据。本文开发了一种新型网络架构，利用稀疏编码层来提高对此类攻击的抵御能力。相比于多种最先进的防御方法，我们的稀疏编码网络架构在保持相当或更高分类准确性的同
PDF4 months ago
稳定扩散模型中的隐私威胁
该研究介绍了一种新的会员推理攻击方法，针对稳定扩散计算机视觉模型，特别关注了由 StabilityAI 开发的高度复杂的稳定扩散 V2。我们的研究揭示了稳定扩散模型的输出存在的隐私漏洞，利用这些信息，我们设计了一种只需要反复查询受害模型的黑
PDF8 months ago
ERASER：MLaaS 中基于推理服务感知的机器消除
提出了 ERASER 框架，通过一个推理服务意识的方法来实现 MLaaS 中的机器解学习。ERASER 提供了一种新颖的认证推理一致性机制，通过有选择性地延迟来自数据所有者的解学习请求，从而降低推理延迟，并严格遵守 RTBF 原则。在各种设
PDF8 months ago
节点注入链接窃取攻击
本文介绍了一种隐秘而有效的攻击方法，通过推断图结构数据中的私有连接，暴露了图神经网络（GNNs）中的隐私漏洞。我们研究了在归纳设置中，新节点加入图并使用 API 查询预测时，私有边缘信息的潜在泄露。我们还提出了在维持模型效用的同时保护隐私的
PDFa year ago
使用成员推断攻击量化掩码语言模型的隐私风险
使用类似于似然比假设检验的成员推理攻击方法，我们发现面向医疗笔记的掩模语言模型泄漏训练数据的隐私风险非常高，表现为先前攻击的 AUC 从 0.66 提高到 0.9 级别，并且在低误差区域有显着提高：在 1％误报率的情况下，攻击效果比先前攻击
PDF2 years ago
ICML通过梯度放大在大批量联邦学习中收集用户数据
本文介绍了一种新的策略，能够在批处理任意大小和不需要架构修改的情况下，在交叉设备和交叉硅质联邦学习中提取高保真数据，通过修改发送给用户的模型参数来在现实威胁模型中实现。
PDF2 years ago