MMDec, 2022

LDL：基于标签的成员推断攻击的防御

PDF
TL;DRLDL 是一种轻量级防御标签攻击的深度神经网络（DNN）模型的方法，通过构建高维球体防止攻击者正确确定样本是否属于训练集，并在实验中表现出比重新训练 DNN 模型的防御措施更优效果。
发现论文，激发创造
  • 基于学习的难度校准提升成员推断攻击

    通过使用基于学习的困难度校准方法，我们提出了一种新的成员推理攻击（Membership Inference Attacks）方法，以显著提高真正正例率（TPR）在低假正例率（FPR）下的性能。

    Jan, 2024

  • 通过对抗鲁棒性评估成员推断

    本文提出了一种基于对抗鲁棒性的增强成员推断攻击方法，通过标签平滑调整对抗性扰动的方向，在白盒设置下对 Fashion-MNIST、CIFAR-10 和 CIFAR-100 三种数据集进行了实验，结果表明该方法的性能优于现有的基于对抗性鲁棒性的方法，且在攻击对抗性训练模型方面，更胜一筹。

    May, 2022

  • 标签曝光中的成员信息泄漏

    本文提出了基于决策的成员推理攻击方法，证明了仅利用标签信息的模型也容易受到成员泄漏攻击，并且开发了两种决策攻击类型：转移攻击和边界攻击。最后，我们评估多种防御机制，并展示了我们提出的两种攻击方式可以绕过大部分防御。

    Jul, 2020

  • LLM 数据推断：你在我的数据集上训练了吗？

    大语言模型在现实世界中的大量使用产生了对公司以未经许可的方式在互联网上训练模型的版权纠纷。本文提出了一种新的数据集推断方法来准确识别用于训练大语言模型的数据集，成功地区分了不同子集的 Pile 数据集的训练集和测试集，无任何错误的正例。

    Jun, 2024

  • 关于正则化对抗隶属推断攻击的有效性

    探索深度学习模型对隐私泄露的影响及规避方法，并评估不同正则化机制对防御成员推理攻击的有效性与隐私保护性。

    Jun, 2020

  • RelaxLoss：在不损失效用的情况下防御成员推断攻击

    通过提出一种基于松弛损失的新型训练框架，RelaxLoss，使得机器学习模型对隐私成了更加稳健，提高了鲁棒性和模型效用。

    Jul, 2022

  • 仅标签成员推断攻击

    本文介绍了一种基于标签的会员推理攻击方法，通过对模型预测标签进行扰动来获取精细的成员信号，该攻击未被置换机密度分数的防御措施所挫败，仅采用差分隐私和（强）L2 正则化等防御策略才能有效地抵御所有攻击。

    Jul, 2020

  • 不确定性、校准和成员推断攻击：信息论视角

    模拟结果表明，会员推理攻击的效果可以很好地通过得出的分析边界进行预测。

    Feb, 2024

  • 双重阻挠：利用迁移学习和随机化来阻止仅标签成员推导攻击

    使用 Transfer Learning（TL）和随机化相结合的 Double-Dip 方法，通过降低过拟合 DNN 对隐私攻击的脆弱性，显著提高非成员的分类准确性，以及减少标签推理攻击的成功率。

    Feb, 2024

  • 从逻辑标签中学习标签分布

    本研究针对标签分布学习中标签增强方法的不足，提出了一种联合模型从逻辑标签中直接学习 LDL 模型，证实该方法对多个数据集能够直接构建可靠的 LDL 模型，同时比现有标签增强方法更准确地预测标签分布。

    Mar, 2023