神经网络本地差分分类隐私验证

Oct, 2023

Verification of Neural Networks Local Differential Classification Privacy

Roie Reshef, Anan Kabaha, Olga Seleznova, Dana Drachsler-Cohen

TL;DR神经网络在隐私攻击方面容易受到影响。我们提出了一种新的隐私属性，称为局部差分分类隐私（LDCP），将本地鲁棒性扩展到适用于黑盒分类器的差分隐私设置。利用 Sphynx 算法，我们可以从一小组网络中计算出一个抽象的网络，并直接验证 LDCP。通过仅训练 7% 的网络，Sphynx 可以预测出 93% 的抽象网络并减少分析时间。

Abstract

neural networks are susceptible to privacy attacks. To date, no verifier can reason about the privacy of individuals participating in the training set. We propose a new privacy property, called local differential

neural networks privacy attacks local differential classification privacy black-box classifiers sphynx

发现论文，激发创造

图神经网络中的局部差分隐私：一种重建方法

我们提出了一个基于图神经网络的学习框架，该框架可以在用户层面提供节点隐私，并且在损失效用性方面表现较低。我们使用分布式隐私保护的概念，并在节点水平对特征和标签数据应用随机化机制，在数据被中央服务器收集用于模型训练之前进行扰动。通过随机化数据的统计分析中的频率估计，我们开发了重构方法来逼近扰动数据的特征和标签。我们还形成了利用图聚类的频率估计来在子图层面监督训练过程的学习框架。在真实数据集和半合成数据集上进行了大量实验，证明了我们提出模型的有效性。

Sep, 2023

基于知识蒸馏的本地差分隐私分布式深度学习

本文提出了一种隐私保护的分布式深度学习框架 LDP-DL, 通过使用本地差分隐私和知识蒸馏进行模型训练。实验结果表明，在三个常用深度学习数据集 (CIFAR10, MNIST, FashionMNIST) 上的实验中，LDP-DL 在隐私预算和模型准确性方面均优于其他竞争对手。

Feb, 2022

上下文感知的本地差分隐私

本文提出了一个上下文感知的局部差分隐私框架，允许隐私设计者将应用程序的上下文纳入到隐私定义中。针对二进制数据域，我们提供了一种普遍最优的隐私方案，并且针对 $k$-ary 数据域，我们研究了两种特殊情况下的局部差分隐私。我们研究了离散分布估计，并提供了通信效率高、样本最优的方案和信息论下界。我们展示了使用上下文信息可以比经典局部差分隐私更少地使用样本来达到相同的准确度。

Oct, 2019

本地差分隐私数据收集与分析

本文提出一种实现高精度（ε，δ）-LDP （可保持个人数据隐私）的机制，分别针对多维数值数据和分类属性进行收集，实现了对数据的安全保护和更高的准确性，实验证明其在数据统计和机器学习模型中具有很高的数据实用性。

Jun, 2019

从私有化数据中训练生成模型

本文提出了一种基于局部差分隐私的生成对抗网络训练方法，通过熵正则化 Wasserstein 距离的组合使用来降噪数据分布，有效地缓解了正则化偏差和隐私噪声效应。

Jun, 2023

本地差分隐私：教程

本文针对 LDP 算法在隐私、统计计算和大数据等领域的应用，介绍了不同 LDP 算法在本地程序用户隐私保护、重要数据识别和空间数据收集等问题上的实现并探讨了其未来发展方向。

Jul, 2019

联邦学习中的本地和中央差分隐私保障鲁棒性和隐私性

本文研究了如何使用差分隐私技术来保护联邦学习中的隐私和鲁棒性，评估了局部差分隐私（LDP）和中心差分隐私（CDP）技术的可行性和有效性。实验证明，这两个差分隐私技术都可以有效防止后门攻击，并且较其他鲁棒性防御更加有效。同时，差分隐私还可以减轻白盒成员推理攻击。然而，这两个技术都无法防御属性推理攻击。

Sep, 2020

使用本地差分隐私收集和分析多维数据

该论文提出了一种针对多维数据的 LDP 机制，该机制可以包含数字和分类属性，并构建了符合 LDP 的随机梯度下降算法，在真实数据集上进行实验，证明了这种机制的有效性和优越性。

Jun, 2019

深度学习中的本地差分隐私

该研究提出了一种名为 LATENT 的本地差分隐私算法，该算法通过将卷积神经网络架构分为卷积模块、随机化模块和全连接模块，并使用新的差分隐私协议实现随机化模块作为网络功能虚拟化隐私保护服务，在边缘 - 云协同中使得保护隐私的深度学习在物联网环境下更加实用。

Aug, 2019

LDP-Fed: 本地差分隐私联邦学习

LDP-Fed 是一个具有正式隐私保证的新型联邦学习系统，使用本地差分隐私（LDP），有别于现有的 LDP 协议，其可以处理来自参与者的高维连续值参数。

Jun, 2020