凸凹损失函数降低会员推断的隐私风险

Feb, 2024

凸凹损失函数降低会员推断的隐私风险

Mitigating Privacy Risk in Membership Inference by Convex-Concave Loss

Zhenlong Liu, Lei Feng, Huiping Zhuang, Xiaofeng Cao, Hongxin Wei

TL;DR机器学习模型在隶属推断攻击中容易受到攻击，本论文提出了一种新方法 —— 凸 - 凹损失，使得训练损失的分布具有很高的方差，增强对隶属推断攻击的防御能力，并取得了在隐私 - 效用权衡方面的最佳平衡。

Abstract

machine learning models are susceptible to membership inference attacks (MIAs), which aim to infer whether a sample is in the training set. Existing work utilizes gradient ascent to enlarge the loss variance of t

machine learning models membership inference attacks convex-concave loss privacy risk neural networks

发现论文，激发创造

课程学习中的隐私风险综合研究

通过演示对课程学习的影响，我们的研究填补了对机器学习隐私泄露的缺乏评估。我们发现，课程学习对会员推理攻击更加有效，但对属性推理攻击的影响较小。我们还提出了一种新的会员推理攻击方法以及针对课程学习的防御解决方案。

Oct, 2023

RelaxLoss：在不损失效用的情况下防御成员推断攻击

通过提出一种基于松弛损失的新型训练框架，RelaxLoss，使得机器学习模型对隐私成了更加稳健，提高了鲁棒性和模型效用。

Jul, 2022

使用对抗正则化的成员隐私机器学习

介绍了一种隐私机制，用于训练机器学习模型以保证隐私，并使用敌对训练算法最小化模型的分类损失和最大的成员推断攻击，从而提高模型的鲁棒性和泛化性能，该机制在深度神经网络上的测试结果表明，可以在可接受的分类误差下显著降低成员推断攻击的风险。

Jul, 2018

关于正则化对抗隶属推断攻击的有效性

探索深度学习模型对隐私泄露的影响及规避方法，并评估不同正则化机制对防御成员推理攻击的有效性与隐私保护性。

Jun, 2020

基于中心的放松学习对抗成员推断攻击

通过提出一种新的架构适应性训练范式（称为 CRL），我们在保持模型的成员一致性的同时，能够提供隐私保护，并且无需或仅需最小程度地损失模型的泛化能力，从而解决了现有防御方法和理想模型之间在性能和部署成本方面的差距。

Apr, 2024

深度学习的实际成员隐私理解

我们应用最先进的成员推理攻击方法，系统地测试了对大型图像分类模型进行微调时的实际隐私漏洞，重点在于了解使其易受成员推理攻击的数据集和样本的特性。就数据集的特性而言，我们发现数据集中每个类别的示例数量与成员推理攻击的脆弱性之间存在强烈的幂律依赖性，通过攻击的真阳率在低假阳率下衡量。对于单个样本来说，在训练结束时较大的梯度与成员推理攻击的脆弱性存在强相关性。

Feb, 2024

机器学习模型隐私风险的系统评估

本文研究了机器学习模型的隐私风险和成员推理攻击，提出了一种基于预测熵修改的推理攻击和一个新的隐私风险得分指标，同时对已有的防御机制进行了基准攻击，实验结果表明个体样本的隐私风险得分分布差异很大，同时确定源风险的主要因素与模型敏感性、综合误差和特征嵌入有关系。

Mar, 2020

通过差异度获得更好的成员推理隐私测量

这篇论文提出了一种基于差异理论的新的经验隐私度量方法，作为一种对成员推断攻击族群的优势的上限，不需要训练多个模型，可用于大规模的 Imagenet 分类模型，并在最近和更复杂的训练方法中具有更高的优势。

May, 2024

对比学习的隐私风险量化与减轻

本文针对对比度学习的隐私问题进行了首次隐私分析，实验结果表明，相对于监督学习模型，对比学习模型更易受到属性推断攻击，但其会导致的成员推断攻击风险较小。为解决这一问题，提出了一种新的隐私保护对比度学习机制 Talos，通过对抗式训练成功地缓解了属性推断威胁，同时保持了其成员隐私和模型效用。

Feb, 2021

通过知识转移确保机器学习模型的会员隐私

提出了一种新的防御称为 “用于成员隐私的蒸馏（DMP）”，该方法可以提供比其他现有防御更好的成员隐私和分类准确性之间的权衡，使用蒸馏技术训练机器学习模型，从而避免成员推理攻击。

Jun, 2019