Feb, 2017

贝叶斯而非朴素：网站指纹识别防御的安全界限

PDF
TL;DR本研究利用机器学习分类方法，以最小可达误差为基础，推导了任何 WF 防御的安全限制，并且证明了这种方式可以用于定义其他基于 ML 的攻击的安全限制。
website fingerprintingmachine learningsecurityclassificationfeature set
发现论文，激发创造
  • 机器学习中安全与隐私科学的探索

    ML 在安全性方面存在漏洞，提出威胁模型并对攻击进行分类，探究了模型准确性与抗敌对操作的关系。

    Nov, 2016

  • 利用模型记忆进行校准的白盒成员推断：窃取的记忆

    本研究通过对深度神经网络如何发生过拟合的新认识，研究了成员推断攻击，并展示了如何利用模型的内部来提供攻击者成员身份的证据，该攻击方法可校准，并可以有效地进行高精度的成员推论。同时，对于流行的成员推断攻击防御方法，发现较小的一阶差分隐私并不能防止攻击，而较大的隐私预算则使得攻击几乎具有与未受保护的模型相同的准确性。

    Jun, 2019

  • 机器学习中的安全和隐私地图

    该研究讨论了机器学习算法的威胁模型，提出了三个解决方案：验证和准入控制、可靠的攻击记录机制和安全与隐私的形式化框架，通过这些方案来设计出较好的机器学习系统。

    Nov, 2018

  • 基于机器学习系统的安全性：在训练和推理期间的攻击和挑战

    对机器学习中存在的各种安全威胁、威胁模型及相关挑战进行了简要概述，利用 LeNet 和 VGGNet 对 MNIST 和 GTSRB 等基准进行了安全威胁演示，提出并解决了部分误差影响并较小的攻击方式，并阐述了开发安全措施的相关技术。

    Nov, 2018

  • 机器学习模型隐私风险的系统评估

    本文研究了机器学习模型的隐私风险和成员推理攻击，提出了一种基于预测熵修改的推理攻击和一个新的隐私风险得分指标，同时对已有的防御机制进行了基准攻击，实验结果表明个体样本的隐私风险得分分布差异很大，同时确定源风险的主要因素与模型敏感性、综合误差和特征嵌入有关系。

    Mar, 2020

  • 行为认证系统的隐私保护机器学习

    使用行为特征进行身份验证的机制，通过使用神经网络分类器和随机投影技术来保护数据隐私，并对安全性和隐私攻击提供保护

    Aug, 2023

  • 数据毒化攻击的认证防御

    对使用用户提供数据训练的机器学习系统进行的数据毒化攻击问题进行了探讨，构建了数据异常移除后采用经验风险最小化的防御方法下的攻击损失上限并给出了攻击方法，检验了在 MNIST-1-7，Dogfish 数据集上其防御能力较强，而在 IMDB 情感数据集上加入 3% 的毒化数据可将测试误差从 12% 提升至 23%。

    Jun, 2017

  • 深度学习的全面隐私分析：针对集中式和联邦学习的被动和主动白盒推理攻击

    本文通过设计基于参数和白盒成员推理攻击算法，分别对中央化和联邦学习场景下的深度学习模型进行隐私分析，揭示了深度学习模型对训练数据隐私的泄露问题以及这一问题的原因，并展示了白盒成员推理攻击算法在 CIFAR 数据集上具体的实验效果。

    Dec, 2018

  • SecurityNet: 评估公共模型的机器学习漏洞

    将公共模型用于评估机器学习模型的攻击和防御方法，表明这些攻击 / 防御方法在公共模型上的表现与自行训练的模型存在显著差异。

    Oct, 2023

  • 保护机器学习模型免受对抗样本的安全隐患

    本文研究机器学习中的安全和隐私领域，重点探究性会员推断攻击是否会受到对抗性的防御方法的影响，并通过实验验证证明对抗性的防御方法可以增加目标模型的风险。

    May, 2019