Jun, 2024

数据剽窃指数：表格生成模型中的数据复制隐私风险特征

PDF
TL;DR该论文提出了一种新的相似性度量和数据剽窃指数（DPI）来评估表格数据的数据复制，并表征了相应的隐私风险。同时，论文指出 DPI 鉴定的数据复制对常见的高性能架构而言存在隐私和公平威胁，强调了需要更复杂的生成模型技术来减轻这个问题。
tabular generative modelsdata copyingprivacy riskfairness threatsgenerative modeling techniques
发现论文，激发创造
  • 表格数据合成模型成员推断攻击的实证研究

    该研究探讨了针对表格数据综合的成员推理攻击，并发现该攻击可能会严重威胁四种最先进的表格数据综合模型，但是通过使用差分隐私训练算法 DP-SGD，可以在一定程度上减轻此威胁。

    Aug, 2022

  • 衡量和减轻表格生成模型的隐私风险

    合成数据和生成模型在隐私保护的数据共享解决方案中迅速崛起，并通过在表格综合机上实施全面的实证分析，突出了五种最先进表格综合机的实用 - 隐私权衡，提出了一个新的差分隐私表格潜在扩散模型，称为 DP-TLDM，能够在保持可比较的隐私风险水平的同时，显著提高合成数据的实用性。

    Mar, 2024

  • 在差分隐私下生成表格数据集

    优化生成模型的质量和隐私之间的平衡，通过引入关注机制学习可逆的表格表示和差分隐私扩散模型来合成高质量的表格数据。

    Aug, 2023

  • 相似性为基础的隐私测量的不足：针对 “真正匿名合成数据” 的重构攻击

    通过评估数据的统计相似性来衡量隐私是不可靠和不一致的，而生成模型只应以差分隐私为标准以保护数据隐私。本文针对领先公司提供的隐私度量指标进行分析，揭示了一些关键的推理缺陷，并提出了成功恢复生成模型中绝大部分用于训练的异常记录的重构攻击 ReconSyn。研究表明，仅将差分隐私应用于模型或使用低效的生成器不能减轻 ReconSyn 对隐私的泄露风险，因为泄露主要来自于度量指标。总体而言，我们的工作提醒从业人员不要偏离既定的隐私保护机制。

    Dec, 2023

  • 模型将明示：扩散模型的训练成员推断

    利用扩散模型内在的生成先验，提出了一种用于训练成员推断的新方法，通过对图像进行连续退化和恢复的比较，判断其是否属于训练样本，并且在准确性和可理解性等方面优于现有方法。

    Mar, 2024

  • 深度生成模型、合成表格数据与差分隐私：概述与综述

    该文章综合介绍了最近在通过深度生成模型生成合成数据方面的研究进展，重点关注表格数据集。我们特别概述了在隐私敏感数据背景下合成数据生成的重要性。此外，我们强调了使用深度生成模型相对于其他方法的优势，并详细解释了底层概念，包括无监督学习、神经网络和生成模型。该论文涵盖了在对表格数据集使用深度生成模型时涉及的挑战和考虑因素，如数据归一化、隐私问题和模型评估。本综述为对合成数据生成及其应用感兴趣的研究人员和实践者提供了有价值的资源。

    Jul, 2023

  • 扩散模型的成员推断

    本文研究了针对敏感数据的扩散模型的成员推理攻击，提出了基于损失和似然的两种攻击方法，并在各种隐私敏感数据相关的数据集上评估了攻击效果和影响攻击性能的因素。此外，还评估了我们攻击方法在差分隐私的扩散模型上的性能。

    Jan, 2023

  • 主题建模中的成员推断攻击和隐私

    最近的研究表明，大型语言模型容易受到侵犯隐私的攻击，推断出训练数据的某些方面。然而，目前尚不清楚是否简单的生成模型（如主题模型）具有类似的弱点。本文提出了一种针对主题模型的攻击方法，可以自信地识别潜在狄利克雷分布中的训练数据成员。我们的结果表明，与生成神经模型相关的隐私风险并不仅限于大型模型。此外，为了减轻这些弱点，我们探讨了差分隐私的主题模型。我们提出了一个框架，将差分隐私词汇选择作为预处理步骤纳入私有主题模型，并展示它在保护隐私方面的改进，对实际效用影响较小。

    Mar, 2024

  • 朝向基于原则的表格数据合成算法评估

    利用扩散模型和大型语言模型的新型综合器进行对比评估，提出了一套评估指标，旨在解决现有评估指标的局限性，并为调优提供了普遍目标，以保护数据隐私和提高合成数据的质量。

    Feb, 2024

  • 理解差分隐私生成模型如何使用其隐私预算

    分析了差分隐私生成模型在表格数据上隐私和效用之间取得平衡，发现了 DP 自然行列分布 privacy budget，图形模型水平分布预算，深度模型按迭代花费预算，低水平的保护能帮助模型更好地泛化。

    May, 2023