ECCVDec, 2019

语义图像分割中的成员推断攻击与防御：分割泄漏

PDF
TL;DR该研究讨论了如何解决语义分割中的隐私问题，尤其是在黑盒威胁环境下的成员推断攻击和防御方法的应用与实验。
semantic segmentationmembership inference attacksdefensesprivacymachine learning models
发现论文，激发创造
  • ML-Leaks: 对机器学习模型进行模型和数据无关的成员资格推断攻击和防御

    本文提出了针对机器学习服务的会员推理攻击的可能性，并放宽了先前攻击假设中的关键假设，说明这些攻击的适用性广泛且代价低廉，从而比先前认为的更具严重性；提出了对抗此类攻击的第一种有效机制，并保持模型的高效性。

    Jun, 2018

  • 通过对抗示例进行成员推断攻击

    本文研究机器学习与深度学习对隐私的威胁，提出了一种测量训练数据泄露的方法以及针对成员推断攻击的新型防御机制，并通过实验数据支持了研究的结论。

    Jul, 2022

  • 针对机器学习模型的成员推断攻击

    本文通过对机器学习模型泄露个人数据记录的数量进行定量研究，并聚焦于基本的成员推理攻击，利用对手方机器学习技术来训练自己的推理模型，识别目标模型在训练和未训练输入上的预测差异，我们评估了这种推理技术对各种分类模型的影响，包括敏感医院出院数据集，发现这些模型容易受到成员攻击，并探讨影响泄漏的因素并评估缓解策略。

    Oct, 2016

  • 透视成员推断攻击

    该论文通过对机器学习模型逐一评估，探究其在会员隐私方面存在的风险。研究表明，攻击模型的效果主要由数据驱动，受数据集的影响较大。在攻击过程中，抗攻击模型的选择和参与者的数量也是影响因素之一。最后，论文给出了相应的对策和缓解策略。

    Jun, 2018

  • 机器学习中的成员推断攻击：一项调查

    本文首次对机器学习中的成员推理攻击及其防御措施进行了全面调查，提供了攻击和防御的分类学及其优缺点，并指出了相关领域的研究限制和未来方向，为研究社区提供了参考。

    Mar, 2021

  • 机器学习模型增强攻击下的成员推断攻击

    通过成员推理攻击作为审核工具，我们提出了一个综合的假设检验框架，不仅能够以一致的方式正式表达先前的工作，还可以设计新的成员推理攻击，使用参考模型来实现任意误报率的显著更高的功率（真正的阳性率），并解释为什么不同的攻击效果不同，并最小化攻击不确定性到数据点的存在或缺失的一个比特秘密。

    Nov, 2021

  • 半泄露：针对半监督学习的成员推断攻击

    提出了基于数据增强的 SSL 模型成员推断攻击，并证明 SSL 训练中的成员泄漏与过拟合不同，通过早停止可以缓解攻击，但会降低模型效用。

    Jul, 2022

  • 深度学习在野外的隐私分析：针对迁移学习的成员推理攻击

    本文研究了基于迁移学习模型的成员推断攻击，采用了影子模型训练策略，通过实验结果展示了成员推断攻击的有效性，并揭示了机器学习模型在实践中存在的成员隐私泄露风险。

    Sep, 2020

  • 标签曝光中的成员信息泄漏

    本文提出了基于决策的成员推理攻击方法，证明了仅利用标签信息的模型也容易受到成员泄漏攻击，并且开发了两种决策攻击类型：转移攻击和边界攻击。最后，我们评估多种防御机制，并展示了我们提出的两种攻击方式可以绕过大部分防御。

    Jul, 2020

  • 通过对抗鲁棒性评估成员推断

    本文提出了一种基于对抗鲁棒性的增强成员推断攻击方法，通过标签平滑调整对抗性扰动的方向，在白盒设置下对 Fashion-MNIST、CIFAR-10 和 CIFAR-100 三种数据集进行了实验，结果表明该方法的性能优于现有的基于对抗性鲁棒性的方法，且在攻击对抗性训练模型方面，更胜一筹。

    May, 2022