Oct, 2023

Bucks for Buckets (B4B): 针对盗用编码器的主动防御

PDF
TL;DRMachine Learning as a Service (MLaaS) API 提供了成熟且高效的编码器，用于为给定的输入生成向量表示。本研究提出了一种主动防御方法 Bucks for Buckets (B4B)，在攻击发生时能够防止模型盗取，同时不降低合法 API 用户的表示质量。通过针对盗取功能的对手返回的表示覆盖嵌入空间的显著比例，调整返回表示的效用，以防止对手通过创建多个用户账户来逃避防御措施。该主动防御为在公共 API 上安全共享和民主化编码器开辟了新的道路。
machine learning as a servicemlaas apisencoder stealing attacksrepresentation qualityactive defense
发现论文，激发创造
  • 自监督模型的数据集推理

    研究了使用私有训练集对抗模型盗窃的方法， 自监督模型在数据集上的推断是保护这些模型的有效方法，同时该方法提出了衡量被盗模型仿真度的方法。

    Sep, 2022

  • StolenEncoder 自监督学习中的预训练编码器盗窃

    本文提出了一种名为 StolenEncoder 的攻击方法，通过该方法可以以比从头开始训练更短的时间和资源窃取目标编码器，本文还探究了三种抵御此攻击的方法。

    Jan, 2022

  • DeepNcode: 基于编码的神经网络比特翻转攻击防护

    我们引入一种基于编码的保护方法 ——DeepNcode，用于防范神经网络的位翻转攻击，实验结果表明，在 4 位和 8 位量化网络中，保护幅度分别提高了 7.6 倍和 12.4 倍，内存开销从原始网络大小的 50% 开始，而时间开销可忽略不计。此外，DeepNcode 不需要重新训练，也不改变模型的准确性。

    May, 2024

  • 学生超越老师：基于模仿的黑盒自然语言处理 API 攻击

    利用无监督域适应和多受害者集成的方法，攻击者可能会在 NLP API 中超越原始黑盒模型，这是对模型提取以前的理解的超越，验证结果表明模仿者可以在转移领域中成功地胜过原始的黑盒模型，这将影响 API 提供者的防御或发布策略。

    Aug, 2021

  • 利用反向分布对贝叶斯神经网络进行后门攻击

    本文提出了一种基于反向分布的新型后门攻击，能够成功地破坏贝叶斯神经网络的稳健性，并在多个基准数据集上证明了攻击成功率达到了 100%。

    May, 2022

  • 基于嵌入的对抗性消除指令调整语言模型中的安全后门

    通过遗传嵌入干扰的方式，BEEAR 方法能够有效减少在大型语言模型中的安全后门攻击，从而提升人工智能的安全性。

    Jun, 2024

  • 自编码器和 GAN 机器学习模型的后门攻击

    本文研究了自编码器和生成对抗网络中的后门攻击，提出了第一个能够控制解码或生成图像的后门攻击，并展示了攻击者成功地对模型执行的能够返回目标输出的自编码器和在激活后能够生成与原模型数据分布不同的数据的生成对抗网络。

    Oct, 2020

  • BadEncoder: 自监督学习中的预训练编码器后门攻击

    本研究研究自监督学习中的后门攻击，提出了 BadEncoder，它将后门注入预训练的图像编码器中，同时保留了下游分类器的准确性。对不同数据集的实验结果表明，这种攻击方法具有高攻击成功率，而常规的防御方法并不能有效防御。

    Aug, 2021

  • Sesame Street 上的盗贼！BERT-based API 的模型提取

    该研究探讨了自然语言处理中模型提取的问题，结果表明，在具有查询访问权限的情况下，攻击者可以使用任意的打乱语序的字串以及特定启发式方法从模型中提取出相应模型的本地副本，通过使用预先训练好的 NLP 模型，使用转移学习的方法，他们在各种类型的 NLP 任务上展现出了攻击的有效性。而防范措施则徒劳无功。

    Oct, 2019

  • 良性自编码器

    该研究证明了通过压缩数据维度以实现数据表示和压缩的有效性，并提出了一种普遍适用于非凸问题的优化算法（BAE），使得压缩模型输入有利于模型性能，并提出了一种用于计算 BAE 的高效算法，测试表明 BAE 能够提高模型在各类数据中的性能，并提高模型的稳定性和鲁棒性。

    Oct, 2022