Feb, 2024

双重阻挠：利用迁移学习和随机化来阻止仅标签成员推导攻击

PDF
TL;DR使用 Transfer Learning（TL）和随机化相结合的 Double-Dip 方法，通过降低过拟合 DNN 对隐私攻击的脆弱性，显著提高非成员的分类准确性，以及减少标签推理攻击的成功率。
transfer learningprivacy attacksmembership inference attacksdouble-dipclassification accuracy
发现论文，激发创造
  • 关于正则化对抗隶属推断攻击的有效性

    探索深度学习模型对隐私泄露的影响及规避方法，并评估不同正则化机制对防御成员推理攻击的有效性与隐私保护性。

    Jun, 2020

  • 使用对抗扰动进行的 DNN 成员推断攻击

    研究了针对深度神经网络的成员推理攻击，提出了对复杂数据集 LiRA 和 EMIA 的补救方法，并提出了一种新的攻击方法 AMIA 和 E-AMIA，同时引入了一些增强指示标志及新的评估指标。

    Jul, 2023

  • 通过知识转移确保机器学习模型的会员隐私

    提出了一种新的防御称为 “用于成员隐私的蒸馏（DMP）”，该方法可以提供比其他现有防御更好的成员隐私和分类准确性之间的权衡，使用蒸馏技术训练机器学习模型，从而避免成员推理攻击。

    Jun, 2019

  • 模型逆向鲁棒性：迁移学习是否有所帮助？

    使用迁移学习为基础的防御方法可以提高模型的抵抗性，限制编码敏感信息的层数，从而降低模型逆推攻击的性能。

    May, 2024

  • 模型将明示：扩散模型的训练成员推断

    利用扩散模型内在的生成先验，提出了一种用于训练成员推断的新方法，通过对图像进行连续退化和恢复的比较，判断其是否属于训练样本，并且在准确性和可理解性等方面优于现有方法。

    Mar, 2024

  • 深度学习在野外的隐私分析：针对迁移学习的成员推理攻击

    本文研究了基于迁移学习模型的成员推断攻击，采用了影子模型训练策略，通过实验结果展示了成员推断攻击的有效性，并揭示了机器学习模型在实践中存在的成员隐私泄露风险。

    Sep, 2020

  • 探究数据依赖下的成员推断攻击

    本文研究了在考虑统计依赖性的情况下，Differentially Private 训练算法在 Membership Inference Attack 防御中的可行性，发现在存在依赖性的情况下，DP 无法提供有效保护。作者通过对离线对攻击的实验表明，数据样本之间的依赖关系严重影响了 Membership Inference Attack 的性能表现。

    Oct, 2020

  • LDL：基于标签的成员推断攻击的防御

    LDL 是一种轻量级防御标签攻击的深度神经网络（DNN）模型的方法，通过构建高维球体防止攻击者正确确定样本是否属于训练集，并在实验中表现出比重新训练 DNN 模型的防御措施更优效果。

    Dec, 2022

  • 深度学习的实际成员隐私理解

    我们应用最先进的成员推理攻击方法，系统地测试了对大型图像分类模型进行微调时的实际隐私漏洞，重点在于了解使其易受成员推理攻击的数据集和样本的特性。就数据集的特性而言，我们发现数据集中每个类别的示例数量与成员推理攻击的脆弱性之间存在强烈的幂律依赖性，通过攻击的真阳率在低假阳率下衡量。对于单个样本来说，在训练结束时较大的梯度与成员推理攻击的脆弱性存在强相关性。

    Feb, 2024

  • 隶属推断攻击的难度

    该论文研究深度学习中的成员推理攻击，指出现有攻击方法的报告中存在高误报率 (FAR) 和针对误分样本的较弱识别能力，并探索了距离决策边界和梯度范数等新特征，证明其对误分类样本分类能力普遍一般，最后通过多项实验证明了现有的 MI 攻击较难同时实现高准确率和低 FAR。

    May, 2020