May, 2023

理解差分隐私生成模型如何使用其隐私预算

PDF
TL;DR分析了差分隐私生成模型在表格数据上隐私和效用之间取得平衡，发现了 DP 自然行列分布 privacy budget，图形模型水平分布预算，深度模型按迭代花费预算，低水平的保护能帮助模型更好地泛化。
differential privacygenerative modelstabular dataprivacy budgetsmodeling techniques
发现论文，激发创造
  • 差分隐私深度生成模型的统一视角

    利用不同隐私保护方法在深度神经网络上进行私密训练，以实现维度较高的数据生成，并提出统一的方法以提供系统性的派生方法，满足不同用例的需求，探讨不同方法之间的优势、限制和内在相关性以启发未来研究，并提出前进的潜在途径以推动隐私保护学习领域的发展。

    Sep, 2023

  • 在差分隐私下生成表格数据集

    优化生成模型的质量和隐私之间的平衡，通过引入关注机制学习可逆的表格表示和差分隐私扩散模型来合成高质量的表格数据。

    Aug, 2023

  • 使用输出特定和数据解析隐私配置文件探究 ML 模型的数据集级隐私转变

    本文研究了衡量数据集上 DP 机制对模型隐私保护的能力的新指标 - 隐私覆盖度，并提出了使用该指标排名训练集中样本隐私的方法，进而使用观察到的邻域分布的不可区分性转换来选择 epsilon 值。

    Jun, 2023

  • 朝着生物学上合理且私密的基因表达数据生成

    通过系统分析五种代表性的差分隐私生成方法在真实世界中基因表达数据情境下的表现，本研究揭示了这些方法各自的特点和优缺点，发现它们无法准确捕捉真实数据集的生物特征，并强调了模型设计方面的亟需未来优化。

    Feb, 2024

  • 个性化隐私分配 —— 基于 DP-SGD 的方案

    本文介绍了一种名为 IDP-SGD 的变体 DP-SGD 方法，它支持个性化隐私预算，旨在实现不同用户数据的个性化隐私保护，并通过提高隐私效益权衡的方法得到实证结果。

    Mar, 2023

  • 衡量和减轻表格生成模型的隐私风险

    合成数据和生成模型在隐私保护的数据共享解决方案中迅速崛起，并通过在表格综合机上实施全面的实证分析，突出了五种最先进表格综合机的实用 - 隐私权衡，提出了一个新的差分隐私表格潜在扩散模型，称为 DP-TLDM，能够在保持可比较的隐私风险水平的同时，显著提高合成数据的实用性。

    Mar, 2024

  • 深度生成模型、合成表格数据与差分隐私：概述与综述

    该文章综合介绍了最近在通过深度生成模型生成合成数据方面的研究进展，重点关注表格数据集。我们特别概述了在隐私敏感数据背景下合成数据生成的重要性。此外，我们强调了使用深度生成模型相对于其他方法的优势，并详细解释了底层概念，包括无监督学习、神经网络和生成模型。该论文涵盖了在对表格数据集使用深度生成模型时涉及的挑战和考虑因素，如数据归一化、隐私问题和模型评估。本综述为对合成数据生成及其应用感兴趣的研究人员和实践者提供了有价值的资源。

    Jul, 2023

  • 深度学习差分隐私模型发布

    提出了一种基于集中差分隐私的神经网络训练方法，通过动态隐私预算分配和新的优化技术来提高模型准确性、训练效率和隐私保护能力。

    Apr, 2019

  • 利用大型语言模型生成私有合成文本

    本文研究了使用敏感数据集生成新的差分隐私数据集作为替代方法，通过使用预先训练好的生成式语言模型并在敏感数据上进行私有调优，然后利用该模型可以产生差分隐私合成数据集，同时展示了训练目标及少调参数可提高合成数据的质量并与直接使用差分隐私训练下游分类器性能竞争力几乎相同，还可用于调整同一模型等级的分类器。

    Jun, 2023

  • 通过深度生成模型实现的差分隐私发布（技术报告）

    本文提出了一个名为 dp-GAN 的数据发布框架，采用差分隐私的方式对原始数据进行训练，从而可以生成任意数量的合成数据来进行各种分析任务，该框架具有理论上的隐私保证，保留了所发布模型的可接受效用，并且采用多重优化策略实现了实用的训练可扩展性和稳定性。

    Jan, 2018