本文着重研究了隐私预算的问题，提出了一套训练范式，通过调整噪声比例，使更多的噪声能被纳入隐私预算，从而在保护隐私和维护计算效用之间提供一种更好的平衡方案。

Oct, 2021

利用差分隐私训练基于最优输运的生成模型，避免了隐私数据的直接使用，并可有效控制偏差-方差交换，此方法能够在多个图像建模基准测试中改进现有技术并合成RGB图像。

Nov, 2021

本文研究了图像扩散模型，如DALL-E 2，Imagen和Stable Diffusion，发现它们从训练数据中记忆单个图像并在生成时发射此类图像，总结了此类模型的隐私风险和影响隐私保护培训的新进展。

Jan, 2023

本文提出一种学习差分隐私概率模型（DPPM），用于生成具有差分隐私保证的高分辨率图像，通过训练模型以适合训练数据的分布并在过程中执行随机响应机制，然后进行哈密顿动力学采样以及由训练概率模型预测的差分隐私运动方向，以获得保护隐私信息的图像，相比其他最先进的差分隐私生成方法，我们的方法可以生成高达256x256具有显着视觉质量和数据实用性的图像，大量实验表明我们的方法的有效性。

May, 2023

研究训练以潜在空间作为输入的LDM的方法，与传统的Diffusion Models相比，通过使用预训练的自动编码器将高维像素空间降为低维潜在空间，大大提高了训练效率，并使用隐私保护的方式对不同维度的注意力模型进行训练以减少可调参数，最终的实验结果表明该方法在生成高质量合成图像时表现突出。

May, 2023

引入隐私蒸馏框架让文本到图像生成模型传授另一个模型而不暴露可识别数据，可以有效地减少再识别风险，同时维持下游性能。

Jun, 2023

利用不同隐私保护方法在深度神经网络上进行私密训练，以实现维度较高的数据生成，并提出统一的方法以提供系统性的派生方法，满足不同用例的需求，探讨不同方法之间的优势、限制和内在相关性以启发未来研究，并提出前进的潜在途径以推动隐私保护学习领域的发展。

Sep, 2023

在此篇文章中，我们提出了一种为私有扩散模型优化参数效率的微调策略，通过减少可训练参数的数量来增强隐私-效用平衡，从而在DP合成方面取得了最先进的性能，在广泛研究的数据集上明显超过了先前的基准（如CelebA-64数据集上的小隐私预算下，仅有0.47M个可训练参数，在先前最先进结果上实现了超过35%的改进）。

Jun, 2024

本研究解决了在实际应用中深度模型可能造成的隐私泄露问题，提出了一种判别生成蒸馏方法以学习隐私保护的深度模型。该方法通过利用私人数据精炼知识并转移到学生网络，有效平衡了高效用与强隐私之间的关系，实验结果表明该方法在隐私保护和准确性保持方面均表现出色。

Sep, 2024

本研究针对当前梯度重建方法在高分辨率图像重建中存在的计算复杂性和先验知识需求问题，提出了两种创新方法，最小化对扩散模型生成过程的修改，无需先验知识。研究还系统分析了差分隐私噪声对重建图像质量的影响，并通过广泛实验验证了所提方法的有效性，开辟了使用条件扩散模型进行隐私风险审计的新方向。

Nov, 2024