隐私保护机器学习的合成数据集生成

Oct, 2022

隐私保护机器学习的合成数据集生成

Synthetic Dataset Generation for Privacy-Preserving Machine Learning

Efstathia Soufleri, Gobinda Saha, Kaushik Roy

TL;DR提出一种从原始数据集生成安全合成数据集的方法，基于预训练的深度神经网络（DNN）的批量归一化（BN）层统计信息和随机噪声进行优化来匹配原始数据的层次统计分布。该方法可以用于从头开始训练神经网络来产生合理的分类性能。

Abstract

machine learning (ML) has achieved enormous success in solving a variety of problems in computer vision, speech recognition, object detection, to name a few. The principal reason for this success is the availability of huge datasets for training deep neural networks (DNNs). However, da

machine learning data privacy encryption obfuscation synthetic datasets

发现论文，激发创造

为私有深度学习生成人工数据

利用生成对抗网络产生保护隐私的人造数据，限制潜在的隐私泄露，且成功地在此数据上训练和验证机器学习模型。

Mar, 2018

数据混淆实现隐私保护机器学习

该论文提出了一种新的通用方法 —— 混淆函数，可在不泄露机器学习训练数据的前提下保护其中的隐私信息，并成功地抵御了四种现有的机器学习隐私攻击。

Jul, 2018

在差分隐私下生成表格数据集

优化生成模型的质量和隐私之间的平衡，通过引入关注机制学习可逆的表格表示和差分隐私扩散模型来合成高质量的表格数据。

Aug, 2023

基于生成对抗网络的数据合成

该研究提出了一种名为 table-GAN 的方法，使用生成对抗网络（GANs）合成伪造表格，用于保证数据匿名性和模型兼容性。实验证明，该方法在隐私和模型兼容性之间取得平衡，同时解决了数据泄露问题。

Jun, 2018

使用卷积 GAN 产生差分隐私的合成医疗数据

本篇论文提出了一种基于不同 ially private 框架和卷积自编码器以及卷积生成对抗网络生成合成数据的方法，以应对使用医疗记录数据所面临的隐私困难，该方法能够捕捉到原始数据中存在的时间信息和特征相关性，并在有监督和无监督情况下使用公开可用的标准医疗数据集，优于现有的同类方法。

Dec, 2020

隐私保护的合成教育数据生成

本文提出了一种保护参与者隐私的教育数据生成模型和比较合成数据生成器的评估框架，阐述了 Naive 假名化可能导致的再识别威胁，并提出了保证隐私的技术。作者还在现有的大规模教育开放数据集上进行了评估。

Jul, 2022

利用大型语言模型生成私有合成文本

本文研究了使用敏感数据集生成新的差分隐私数据集作为替代方法，通过使用预先训练好的生成式语言模型并在敏感数据上进行私有调优，然后利用该模型可以产生差分隐私合成数据集，同时展示了训练目标及少调参数可提高合成数据的质量并与直接使用差分隐私训练下游分类器性能竞争力几乎相同，还可用于调整同一模型等级的分类器。

Jun, 2023

保护和扩展 —— 使用 GAN 生成时间序列医疗记录的合成数据

通过比较各种使用生成对抗网络的合成数据生成模型，研究证明了隐私保护生成对抗网络（PPGAN）模型在保护隐私的同时保持了可接受的生成数据质量，为将来医疗应用提供更好的数据保护。

Feb, 2024

深度学习与差分隐私

本论文提出新的算法技术，包括隐私成本的细化分析，并在差分隐私框架下进行。实验结果表明：我们可以在较小的隐私成本下训练具有非凸目标的深度神经网络，而且在软件复杂性、训练效率和模型质量上具有可管理的成本。

Jul, 2016

深度学习中的隐私：综述

本文综述了深度学习中面临的隐私问题，以及已经提出的解决这些问题的技术，并提出了未来研究方向。

Apr, 2020