Mar, 2024

表格 GANs 的隐私再识别攻击

PDF
TL;DR我们研究了生成对抗网络（GANs）用于创建表格合成数据集可能导致的隐私风险，发现恶意攻击者可以通过选择与训练样本最接近的合成样本对隐私构成重大威胁，并且当攻击者具有对生成模型的知识或黑盒访问时，隐私威胁显著增加，而使用多目标优化的重构攻击甚至会增加识别机密样本的风险。
发现论文，激发创造
  • 基于生成对抗网络的数据合成

    该研究提出了一种名为 table-GAN 的方法，使用生成对抗网络（GANs）合成伪造表格，用于保证数据匿名性和模型兼容性。实验证明，该方法在隐私和模型兼容性之间取得平衡，同时解决了数据泄露问题。

    Jun, 2018

  • 相似性为基础的隐私测量的不足：针对 “真正匿名合成数据” 的重构攻击

    通过评估数据的统计相似性来衡量隐私是不可靠和不一致的，而生成模型只应以差分隐私为标准以保护数据隐私。本文针对领先公司提供的隐私度量指标进行分析，揭示了一些关键的推理缺陷，并提出了成功恢复生成模型中绝大部分用于训练的异常记录的重构攻击 ReconSyn。研究表明，仅将差分隐私应用于模型或使用低效的生成器不能减轻 ReconSyn 对隐私的泄露风险，因为泄露主要来自于度量指标。总体而言，我们的工作提醒从业人员不要偏离既定的隐私保护机制。

    Dec, 2023

  • 衡量和减轻表格生成模型的隐私风险

    合成数据和生成模型在隐私保护的数据共享解决方案中迅速崛起，并通过在表格综合机上实施全面的实证分析，突出了五种最先进表格综合机的实用 - 隐私权衡，提出了一个新的差分隐私表格潜在扩散模型，称为 DP-TLDM，能够在保持可比较的隐私风险水平的同时，显著提高合成数据的实用性。

    Mar, 2024

  • 保护和扩展 —— 使用 GAN 生成时间序列医疗记录的合成数据

    通过比较各种使用生成对抗网络的合成数据生成模型，研究证明了隐私保护生成对抗网络（PPGAN）模型在保护隐私的同时保持了可接受的生成数据质量，为将来医疗应用提供更好的数据保护。

    Feb, 2024

  • 合成数据异常值：身份泄露导航

    通过对合成数据的异常值进行分析，我们的研究发现链接攻击方式可能会导致异常值被重新识别，并且差分隐私等额外安全措施可以预防重新识别，但会损失数据可用性。

    Jun, 2024

  • 表格数据合成模型成员推断攻击的实证研究

    该研究探讨了针对表格数据综合的成员推理攻击，并发现该攻击可能会严重威胁四种最先进的表格数据综合模型，但是通过使用差分隐私训练算法 DP-SGD，可以在一定程度上减轻此威胁。

    Aug, 2022

  • 通过检测器网络在 GAN 中识别黑盒训练数据

    使用生成对抗网络黑盒设置进行成员推断攻击，探究其对隐私的影响，并发现攻击成功率较其他生成模型和判别模型要低，这呈现出 GAN 是否确实更为私密的有趣问题。

    Oct, 2023

  • 生成逼真的训练数据以提高人脸识别准确性

    本文研究使用合成数据来增强面部数据集的可行性。我们提出了一种新颖的生成对抗网络（GAN），可以将相关身份属性与非相关身份属性区分开来。我们的 GAN 能够生成数据增强的合成图像，并且该模型可以提高面部识别模型的准确率。

    Oct, 2018

  • 在差分隐私下生成表格数据集

    优化生成模型的质量和隐私之间的平衡，通过引入关注机制学习可逆的表格表示和差分隐私扩散模型来合成高质量的表格数据。

    Aug, 2023

  • 隐私保护生成框架对抗成员推断攻击

    本文提出了一种隐私保护的生成模型，通过变分自编码器 (VAE) 的信息提取和数据生成能力，生成符合差分隐私要求的合成数据来防御成员推理攻击，并进行了实验验证。

    Feb, 2022