Jul, 2024

损失加大: 对于非凸损失的隐藏状态DP-SGD没有隐私放大

HTML
PDF
TL;DR通过构建一个特定的损失函数，我们发现差分隐私随机梯度下降算法的最终迭代结果泄露了与所有迭代序列相同数量的信息，从而证明了当前对于一般损失函数的差分隐私分析是紧密的，因此我们得出结论：对于所有（可能是非凸）损失函数而言，差分隐私随机梯度下降算法无法进行隐私放大。
发现论文，激发创造
  • DP-LSSGD: 隐私保护ERM中提高效用的随机优化方法

    本研究提出DP-LSSGD，一种基于差分隐私的SGD算法，通过Laplacian smoothing减少噪音并保证同样的隐私保证，让训练凸和非凸机器学习模型更加稳定，同时使得模型泛化更好。

    Jun, 2019

  • 动态差分隐私保护随机梯度下降

    本文提出了动态DP-SGD算法，通过动态调整剪裁阈值和噪声幅度来降低性能损失，同时保持隐私，从而显著提高了模型的准确性。

    Oct, 2021

  • 随机梯度下降噪声的隐私泄露可能会收敛，即使对于非凸损失函数

    本文研究了 DP-SGD 算法在限制梯度影响的条件下，对于具有省略凸性和平滑性假设的损失函数，随着迭代次数的增加，其隐私泄露的收敛速度是指数级的。同时，文章还分析了非正则 DP-SGD 的隐私损失。

    May, 2023

  • 采样机制下的个性化DP-SGD

    基于个性化采样机制的深度学习DP-SGD扩展算法，支持针对不同用户的个性化差分隐私保护，实验证明其性能和效率优于现有的DP-SGD和PDP机制。

    May, 2023

  • 梯度看起来相似：DP-SGD中的敏感性经常被高估

    本文发展了一种新的DP-SGD分析方法，该算法能够更好地处理训练数据集中许多数据点的隐私泄露问题，具有更好的隐私保障，特别是对正确分类的数据点而言。

    Jul, 2023

  • 差分隐私的偏移插值

    这篇论文通过建立“迭代的隐私放大”现象的统一框架，改进了先前分析的方法，有效地量化了差分隐私算法的隐私泄露，并扩展到各种设置和概念中，进而在 strongly convex optimization 领域中实现了第一个精确的隐私分析。

    Mar, 2024

  • 近似最紧密的黑盒审计差分隐私机器学习

    该研究通过黑盒模型对Differentially Private Stochastic Gradient Descent (DP-SGD)算法进行了近乎严格的审计，通过成员推理攻击经验性地估计了DP-SGD的隐私泄漏，并且估计结果接近理论DP边界。

    May, 2024

  • 针对隐藏状态威胁模型中DP-SGD的更严格隐私审计

    通过对隐含状态威胁模型进行审计，本研究验证了通过在每个优化步骤中插入所精心设计的梯度，保证仅发布最终模型并不会增加隐私的结论，同时也在非凸设置中观察到隐私放大的现象，为改进现有隐私上界提供强有力的证据。

    May, 2024

  • 非凸复合损失函数中循环采样的差分隐私随机梯度下降的最后迭代的隐私保护

    对于最常用的DP-SGD变体，即通过循环替换方式采样批次、进行梯度裁剪并仅发布最后一个DP-SGD迭代，我们在不假设凸性、平滑性或Lipschitz连续性的损失函数的情况下，建立了新的Rényi差分隐私（RDP）界限，假设DP-SGD的步长相对于损失函数中的拓扑常数较小，且损失函数是弱凸的。此外，当目标函数的弱凸参数趋近于零时，我们的界限趋于以前建立的凸界限。对于非Lipschitz平滑的损失函数，我们提供了一种随着DP-SGD迭代次数的扩展良好的界限。

    Jul, 2024

  • 非凸和平滑情况下带噪声SGD的收敛隐私损失

    本文研究了带噪声SGD算法在非凸非平滑损失下的差分隐私保证，填补了该领域的研究空白。通过充分利用Hölder连续梯度的条件，作者证明了收敛的R'enyi差分隐私界限，并提供了相较于已有成果更优的隐私界限。这项研究进一步展示了隐状态分析在差分隐私中的优势及其应用潜力。

    Oct, 2024