privacy analysis | BriefGPT

关键词privacy analysis

搜索结果 - 10

对基于归纳图神经网络的链接窃取攻击
通过针对归纳式图神经网络进行系统隐私分析，本文填补了以往对于归纳式图神经网络的全面隐私分析的空白，并通过对链接窃取攻击的分析，提出了后验攻击和组合攻击两种类型的攻击，发现归纳式图神经网络泄漏大量信息，使得攻击即使在没有关于图结构的先验知识的
PDF2 months ago
联邦大型语言模型中的隐私泄漏分析
我们的研究对联邦学习在训练大规模语言模型时的隐私分析进行了广泛的研究，从理论和实践角度设计了两种具有理论成功率的主动成员推断攻击，揭示了包括 BERT、RoBERTa、DistilBERT 和 OpenAI 的 GPT 在多个真实世界的语言
PDF4 months ago
选择泄露隐私的机制：重新审视私密选择和超参数调整的改进结果
在超参数调整问题中，提供了关于当前隐私分析是紧密的一般意义上的证实，然而，当专门研究超参数调整问题时，密切性不再成立。此外，通过隐私审计发现了当前理论上的隐私边界与经验边界之间的实质差距，并提供了改进后的隐私结果以及比以往分析更具普适性的结
PDF4 months ago
机器学习系统中的隐私侧信道
通过引入隐私侧信道攻击，本研究揭示了当前保护机器学习隐私的方法假设模型存在于真空中，然而事实上，机器学习模型是包含用于训练数据过滤、输出监测等组件的更大系统的一部分。文中提出了四类隐私侧信道攻击，涵盖了整个机器学习生命周期，可以用于增强成员
PDF10 months ago
梯度看起来相似：DP-SGD 中的敏感性经常被高估
本文发展了一种新的 DP-SGD 分析方法，该算法能够更好地处理训练数据集中许多数据点的隐私泄露问题，具有更好的隐私保障，特别是对正确分类的数据点而言。
PDFa year ago
使用稀疏模型扰动的联邦学习：在客户端级别的差分隐私下提高准确性
本篇论文提出了一种名为 Fed-SMP 的新型差分隐私联邦学习方案，该方案采用 Sparsified Model Perturbation (SMP) 技术，在保持高模型准确性的同时，提供客户端级差分隐私保证，并使用 Renyi DP 提供
PDF2 years ago
MM对比学习的隐私风险量化与减轻
本文针对对比度学习的隐私问题进行了首次隐私分析，实验结果表明，相对于监督学习模型，对比学习模型更易受到属性推断攻击，但其会导致的成员推断攻击风险较小。为解决这一问题，提出了一种新的隐私保护对比度学习机制 Talos，通过对抗式训练成功地缓解
PDF3 years ago
对抗实例化：差分隐私机器学习的下界
本文针对 DP-SGD，即差分隐私下的随机梯度下降算法，采用对手模型来探究不同的对手能力对于隐私分析的影响，并计算了隐私保护的下限。实验结果表明，现实情况下的对手能力限制显著影响了隐私的泄露程度，这说明已有理论上的隐私上限过于保守。
PDF3 years ago
高斯差分隐私深度学习
本文研究了深度学习中隐私方面的问题，提出了一种新的隐私定义 ——f - 差分隐私，并利用其可处理复合和子采样的性质，推导出了一种更简单的隐私分析方法。在图像分类、文本分类和推荐系统等任务中的实验结果表明，该方法可以在保证隐私的前提下提高神经
PDF5 years ago
深度学习的全面隐私分析：针对集中式和联邦学习的被动和主动白盒推理攻击
本文通过设计基于参数和白盒成员推理攻击算法，分别对中央化和联邦学习场景下的深度学习模型进行隐私分析，揭示了深度学习模型对训练数据隐私的泄露问题以及这一问题的原因，并展示了白盒成员推理攻击算法在 CIFAR 数据集上具体的实验效果。
PDF6 years ago