Oct, 2023

DPGOMI：差分私有化数据发布与高斯优化模型反向

PDF
TL;DR我们提出了一种新颖的差分隐私数据发布方法，称为具有高斯优化模型逆向的差分隐私数据发布 (DPGOMI)，用于解决在深度学习时代中不允许共享敏感信息的数据保护问题。我们的方法涉及使用公共生成器将私有数据映射到潜在空间，然后使用具有更好收敛性能的低维 DP-GAN。我们在标准数据集 CIFAR10 和 SVHN 上评估了 DPGOMI 的性能。结果表明，与标准的 DP-GAN 方法相比，DPGOMI 在 Inception Score、Fréchet Inception Distance 和分类性能等方面表现出色，同时提供相同的隐私级别。我们提出的方法为在 GAN 训练中保护敏感数据同时保持高质量的结果提供了一个有希望的解决方案。
high-dimensional dataprivacy protectiondifferentially private data releasingdp-gangan training
发现论文，激发创造
  • 差分隐私深度生成模型的统一视角

    利用不同隐私保护方法在深度神经网络上进行私密训练，以实现维度较高的数据生成，并提出统一的方法以提供系统性的派生方法，满足不同用例的需求，探讨不同方法之间的优势、限制和内在相关性以启发未来研究，并提出前进的潜在途径以推动隐私保护学习领域的发展。

    Sep, 2023

  • 通过深度生成模型实现的差分隐私发布（技术报告）

    本文提出了一个名为 dp-GAN 的数据发布框架，采用差分隐私的方式对原始数据进行训练，从而可以生成任意数量的合成数据来进行各种分析任务，该框架具有理论上的隐私保证，保留了所发布模型的可接受效用，并且采用多重优化策略实现了实用的训练可扩展性和稳定性。

    Jan, 2018

  • 知识增强的分布式模型反演攻击

    本文提出了一种基于 Inversion-specific GAN 的新型模型反演攻击方法，通过训练鉴别器不仅区分真伪样本，而且包括目标模型提供的软标签，进而为每个目标类建模私人数据分布，成功率比先前的攻击方式有所提高（150%），而且普适于多种数据集和模型。

    Oct, 2020

  • 联邦扩散模型的梯度反演

    我们研究了扩散模型在生成高分辨率图像数据方面的应用，使用基于梯度的协作训练方法，我们设计了一种融合优化模型（GIDM），以减小梯度反演攻击的风险，并进一步提出了三重优化模型（GIDM+）来解决隐私保护方面的挑战。通过广泛的评估结果，我们发现共享梯度对于扩散模型的数据保护存在漏洞，即使是高分辨率图像也可以被高质量地重建。

    May, 2024

  • 学习差分隐私概率模型保护隐私的图像生成

    本文提出一种学习差分隐私概率模型（DPPM），用于生成具有差分隐私保证的高分辨率图像，通过训练模型以适合训练数据的分布并在过程中执行随机响应机制，然后进行哈密顿动力学采样以及由训练概率模型预测的差分隐私运动方向，以获得保护隐私信息的图像，相比其他最先进的差分隐私生成方法，我们的方法可以生成高达 256x256 具有显着视觉质量和数据实用性的图像，大量实验表明我们的方法的有效性。

    May, 2023

  • 差分隐私数据生成模型

    提出了一种基于差分隐私的自编码生成模型和变分自编码生成模型，这些模型可以有效地保护深度学习的隐私，并且经过评估具有较强的鲁棒性。

    Dec, 2018

  • P3GM: 通过隐私保护分步生成模型发布私有高维数据

    提出了一种基于隐私保护的分阶段生成模型（P3GM），通过采用分阶段的学习过程，P3GM 可以更好地处理高维数据的隐私保护数据合成问题，并在数据挖掘中的合成数据任务中表现出更高的准确性。

    Jun, 2020

  • 差分隐私生成对抗网络

    本文通过在学习过程中添加特别设计的梯度噪声来实现差分隐私的生成对抗网络（DPGAN），以解决 GAN 在应用于私人或敏感数据时可能泄露关键信息的问题，并提供隐私保障的严格证明和全面的实证证据。

    Feb, 2018

  • 扩散模型的差分隐私微调

    在此篇文章中，我们提出了一种为私有扩散模型优化参数效率的微调策略，通过减少可训练参数的数量来增强隐私 - 效用平衡，从而在 DP 合成方面取得了最先进的性能，在广泛研究的数据集上明显超过了先前的基准（如 CelebA-64 数据集上的小隐私预算下，仅有 0.47M 个可训练参数，在先前最先进结果上实现了超过 35% 的改进）。

    Jun, 2024

  • 深度学习差分隐私模型发布

    提出了一种基于集中差分隐私的神经网络训练方法，通过动态隐私预算分配和新的优化技术来提高模型准确性、训练效率和隐私保护能力。

    Apr, 2019