Jun, 2020

重新思考隐私保护深度学习：如何评估和阻止隐私攻击

PDF
TL;DR本文研究了隐私保护深度学习机制对于各种形式的隐私攻击的能力，提出了通过重构、追踪和成员攻击量化测量模型准确性和隐私损失之间的权衡，针对重构攻击提出了解决带有噪声的线性方程组的新颖方法，通过 SPN 技术解决了现有 PPDL 方法面临的隐私攻击对其构成的严重挑战，实验表明在数据隐私得到满意保护的情况下，模型的准确性平均提高了 5-20%。
发现论文，激发创造
  • 提升机器学习数据隐私保护的最新方法 —— 综述

    探讨隐私保护机器学习（PPML）的兴起及其对各领域的巨大影响，强调在机器学习框架中保护隐私所面临的挑战，讨论当前研究努力，旨在最小化隐私敏感信息和增强数据处理技术，通过应用密码学方法、差分隐私和可信执行环境等隐私保护技术，保护机器学习训练数据防止隐私侵犯，尤其关注 PPML 在敏感领域中的应用及其在保护机器学习系统隐私与安全方面的关键作用。

    Feb, 2024

  • 隐私保护对抗网络

    利用对抗性神经网络实现随机机制和互信息隐私的变分近似，优化隐私数据发布机制的信息论最优折衷方案，对合成数据和实际数据集 MNIST 进行了验证实验。

    Dec, 2017

  • 判别式对抗隐私：在神经网络中平衡准确性和成员隐私

    本文提出了一种名为 “判别性对抗隐私”（DAP）的新型学习技术，该技术通过达到模型性能、速度和隐私之间的平衡来解决 DP 的局限性。DAP 依靠对抗训练，基于一种新的损失函数，该函数能够最小化预测误差并最大化 MIA 的误差。此外，我们引入了一种名为 “准确性隐私权”（AOP）的新指标来捕捉性能 - 隐私权衡。最后，为了验证我们的观点，我们将 DAP 与不同的 DP 情景进行比较，并从性能、时间和隐私保护角度分析结果。

    Jun, 2023

  • 野心勃勃：隐私保护神经网络训练的可重复研究

    这项工作主要关注机器学习模型的训练阶段，在这个阶段对用户数据的隐私保护至关重要。我们提供了坚实的理论背景，以便更容易理解当前方法及其局限性。此外，我们对最新的模型训练框架进行了详细比较，提供了在标准基准上独特属性和性能的全面对比。我们重现了一些论文的结果，并考察现有作品对开放科学的支持程度，认为我们的工作就提高了关于隐私保护机器学习在理论进展和实际应用之间差距的意识，特别是在开放源代码可用性、可重复性和可用性方面。

    Mar, 2024

  • SoK：隐私保护数据合成

    本研究旨在提供一个全面的流派统一的方案折衷了 PPDS 领域中的两种主要方法：统计方法和基于深度学习的方法，在提供了完整的参考表格和关键点摘要以及确定了实际应用中指导方法选择的准则之后，为 DLM 方法在私密图像合成方面提供了基准测试，并鉴别出 DP-MERF 是一种全能方法。

    Jul, 2023

  • 隐私保护与任务导向表征的对抗学习

    本文提出了一种对抗性重构学习框架，旨在学习一种以任务为导向的隐私保护表示，以防止模型反演攻击，采用负像素重构损失或负感知距离损失最小化来实现，展示了在面部属性预测任务中我们的方法可以在小幅度降低实用性的情况下保护视觉隐私，并提供了不同特征、任务和数据的广泛研究，以进一步分析它们对隐私保护的影响和效用 - 隐私权衡的关系。

    Nov, 2019

  • 深度学习差分隐私模型发布

    提出了一种基于集中差分隐私的神经网络训练方法，通过动态隐私预算分配和新的优化技术来提高模型准确性、训练效率和隐私保护能力。

    Apr, 2019

  • 如何保留文本隐私：一项针对自然语言处理的深度学习隐私保护方法的系统综述

    本文对 2016 年至 2020 年间发表的 60 种深度学习模型进行了系统综述，介绍了一种新的分类法，并讨论了隐私保护自然语言处理模型中的隐私问题。

    May, 2022

  • 深度学习与差分隐私

    本论文提出新的算法技术，包括隐私成本的细化分析，并在差分隐私框架下进行。 实验结果表明：我们可以在较小的隐私成本下训练具有非凸目标的深度神经网络，而且在软件复杂性、训练效率和模型质量上具有可管理的成本。

    Jul, 2016

  • 面向隐私保护深度神经网络的图像加密方案攻击

    该研究针对深度神经网络中的图像应用提出了一种加密技术，并尝试通过选择明文和密文攻击来测试其安全性。

    Apr, 2020