SoK：隐私保护数据合成

Jul, 2023

SoK: Privacy-Preserving Data Synthesis

Yuzheng Hu, Fan Wu, Qinbin Li, Yunhui Long, Gonzalo Munilla Garrido...

TL;DR本研究旨在提供一个全面的流派统一的方案折衷了 PPDS 领域中的两种主要方法：统计方法和基于深度学习的方法，在提供了完整的参考表格和关键点摘要以及确定了实际应用中指导方法选择的准则之后，为 DLM 方法在私密图像合成方面提供了基准测试，并鉴别出 DP-MERF 是一种全能方法。

Abstract

As the prevalence of data analysis grows, safeguarding data privacy has become a paramount concern. Consequently, there has been an upsurge in the development of mechanisms aimed at privacy-preserving data analyses. However, these approaches are task-specific; designing algorithms for new tasks is a cumbersome process. As an alternative, one can create synth

privacy-preserving data synthesis statistical methods deep learning generative modeling principles method selection

发现论文，激发创造

PrivSyn：差分隐私数据合成

本文提出了 PrivSyn，第一个可以处理普通数据集（具有 100 个属性和域大小 $>2^{500}$）的自动合成数据生成方法，并在多个数据集上进行了广泛的评估，以展示我们的方法的性能。

Dec, 2020

差分隐私数据合成方法比较研究

本研究探讨了当前的差分隐私数据合成技术对于发布原始数据的个人级别代理数据的技术概念，以及通过广泛的模拟研究评估每种数据合成技术的统计效用和推断属性，为不公开数据的发布提供了差分隐私的实际可行性和效用，同时提出了未来的研究方向。

Feb, 2016

利用大型语言模型生成私有合成文本

本文研究了使用敏感数据集生成新的差分隐私数据集作为替代方法，通过使用预先训练好的生成式语言模型并在敏感数据上进行私有调优，然后利用该模型可以产生差分隐私合成数据集，同时展示了训练目标及少调参数可提高合成数据的质量并与直接使用差分隐私训练下游分类器性能竞争力几乎相同，还可用于调整同一模型等级的分类器。

Jun, 2023

差分隐私深度生成模型的统一视角

利用不同隐私保护方法在深度神经网络上进行私密训练，以实现维度较高的数据生成，并提出统一的方法以提供系统性的派生方法，满足不同用例的需求，探讨不同方法之间的优势、限制和内在相关性以启发未来研究，并提出前进的潜在途径以推动隐私保护学习领域的发展。

Sep, 2023

差分隐私的合成文本生成：一个简单实用的方法

本文讨论隐私问题在数据驱动产品和服务中引起的关注，提出了一种利用差分隐私的生成式语言模型的简单、实用和有效方法，以生成有用的合成文本同时缓解隐私问题。经过广泛的实证分析，我们证明了我们的方法产生的合成数据在实用性上与其非私有对应物相当竞争，同时提供了强大的保护措施以防止潜在的隐私泄漏。

Oct, 2022

具有私密密度估计的差分隐私合成数据

我们采用差分隐私的框架研究了敏感数据分析的方法，通过将均匀采样步骤替换为私有分布估计器，我们改进了 Boedihardjo 等人工作的算法，并提供了离散和连续分布的计算保证，适用于多种统计任务。

May, 2024

隐私保护机器学习的合成数据集生成

提出一种从原始数据集生成安全合成数据集的方法，基于预训练的深度神经网络（DNN）的批量归一化（BN）层统计信息和随机噪声进行优化来匹配原始数据的层次统计分布。该方法可以用于从头开始训练神经网络来产生合理的分类性能。

Oct, 2022

提升机器学习数据隐私保护的最新方法 —— 综述

探讨隐私保护机器学习（PPML）的兴起及其对各领域的巨大影响，强调在机器学习框架中保护隐私所面临的挑战，讨论当前研究努力，旨在最小化隐私敏感信息和增强数据处理技术，通过应用密码学方法、差分隐私和可信执行环境等隐私保护技术，保护机器学习训练数据防止隐私侵犯，尤其关注 PPML 在敏感领域中的应用及其在保护机器学习系统隐私与安全方面的关键作用。

Feb, 2024

衡量和减轻表格生成模型的隐私风险

合成数据和生成模型在隐私保护的数据共享解决方案中迅速崛起，并通过在表格综合机上实施全面的实证分析，突出了五种最先进表格综合机的实用 - 隐私权衡，提出了一个新的差分隐私表格潜在扩散模型，称为 DP-TLDM，能够在保持可比较的隐私风险水平的同时，显著提高合成数据的实用性。

Mar, 2024

重新思考隐私保护深度学习：如何评估和阻止隐私攻击

本文研究了隐私保护深度学习机制对于各种形式的隐私攻击的能力，提出了通过重构、追踪和成员攻击量化测量模型准确性和隐私损失之间的权衡，针对重构攻击提出了解决带有噪声的线性方程组的新颖方法，通过 SPN 技术解决了现有 PPDL 方法面临的隐私攻击对其构成的严重挑战，实验表明在数据隐私得到满意保护的情况下，模型的准确性平均提高了 5-20%。

Jun, 2020