DSF-GAN: 下游反馈生成对抗网络
本文提出了首个针对生成模型的成员推断攻击方法,使用生成对抗网络检测过度拟合并识别训练数据,发现缺陷对于不同的训练参数有不同的灵敏度,防御方法不够有效并会导致生成模型在训练稳定性或样本质量方面表现较差。
May, 2017
本文通过在学习过程中添加特别设计的梯度噪声来实现差分隐私的生成对抗网络(DPGAN),以解决GAN在应用于私人或敏感数据时可能泄露关键信息的问题,并提供隐私保障的严格证明和全面的实证证据。
Feb, 2018
通过引入一种新的剪辑和扰动策略,基于 Renyi 差分隐私监管机制,提出了一种差分隐私条件生成式对抗网络(DP-CGAN)训练框架,用于在保持培训数据隐私的同时提高模型性能,实验结果表明DP-CGAN可以通过单一的差分隐私 epsilon 参数在 MNIST 数据集上生成视觉和实验上有前途的结果。
Jan, 2020
本文提出了一个广义 GAN 框架来合成表格数据,旨在解决可用数据通常受到限制、不完整或难以获得,以及数据隐私日益重要的问题。该方法通过降低关于真实记录的负对数密度来进一步提高合成质量,或者通过增加有关真实记录的负对数密度来生成更为现实但不过于接近真实记录的伪记录,以减少潜在的信息泄漏。实验结果表明,在减小对数密度时,该方法具有最佳的合成质量,而在增加对数密度时,能够增强隐私攻击的鲁棒性。
Feb, 2022
通过研究生成式对抗网络,我们证明了一定条件下,GAN生成的样本天然满足一定程度的隐私保障,即ε,δ差分私有性。同时,我们研究了对成员身份推断攻击的鲁棒性,并证明了对手的区分能力至少为O(m^{-1/4})。
Jun, 2022
本文提出了一个级联表格生成对抗网络框架(CasTGAN),可生成更逼真的表格数据,模型能捕捉实际数据的限制和相关性,并通过对辅助学习者进行扰动来提高模型抵抗特定攻击的整体稳健性。
Jul, 2023
合成数据和生成模型在隐私保护的数据共享解决方案中迅速崛起,并通过在表格综合机上实施全面的实证分析,突出了五种最先进表格综合机的实用-隐私权衡,提出了一个新的差分隐私表格潜在扩散模型,称为DP-TLDM,能够在保持可比较的隐私风险水平的同时,显著提高合成数据的实用性。
Mar, 2024
我们研究了生成对抗网络(GANs)用于创建表格合成数据集可能导致的隐私风险,发现恶意攻击者可以通过选择与训练样本最接近的合成样本对隐私构成重大威胁,并且当攻击者具有对生成模型的知识或黑盒访问时,隐私威胁显著增加,而使用多目标优化的重构攻击甚至会增加识别机密样本的风险。
Mar, 2024