Nov, 2020

深度复制：一种敌对性权重复制攻击框架，用于在多租户 FPGA 中破坏深度神经网络

PDF
TL;DR本文研究了多住户云场可编程门阵列中 DNN 模型容易受到攻击的问题，并提出了一种名为 Deep-Dup 的新型对抗性攻击框架，借助恶意用户可以利用恶意电力抢夺电路对 FPGA 进行攻击，在数据传输过程中重复 DNN 权重包以劫持受害住户的 DNN 功能，并提出名为 P-DES 的通用易受攻击的 DNN 权重包搜索算法，该算法是自适应于白盒和黑盒攻击模型的。
deep neural networksmulti-tenant cloud field-programmable gate arraysadversarial attack frameworkdnn weight packagesvulnerable weight package searching algorithm
发现论文，激发创造
  • 邻居来自地狱：针对多租户 FPGAs 上深度学习加速器的电压攻击

    本文评估 DL 加速器在多租户 FPGA 场景下对基于电压的完整性攻击的安全性，并发现时序攻击并不能影响 DL 加速器的预测准确度，同时过时钟提速可以提高推断性能。

    Dec, 2020

  • DNN-Defender: 一种抵御对抗权重攻击的内存中深度神经网络防御机制

    本研究提出了一种基于 DRAM 的 DNN 防御机制 - DNN-Defender，通过利用 DRAM 中交换的潜力来抵御目标位翻转攻击，该防御机制在 CIFAR-10 和 ImageNet 数据集上没有准确性下降并且无需任何软件训练或额外的硬件开销。

    May, 2023

  • 模型压缩深度学习系统在对抗攻击下的安全分析与增强

    通过综合考虑模型重塑和输入扰动，本研究首次探讨了实际模型优化的深度学习系统中的多因素对抗攻击问题，并开发了一种名为 “梯度抑制” 的防御技术，能够有效减轻对软硬件导向深度学习的对抗攻击。

    Feb, 2018

  • DeepHammer：通过有针对性的比特翻转链降低深度神经网络的智力

    本文利用第一款硬件攻击深度学习模型的工具 DeepHammer，可以在运行时对确定性比特翻转进行深度学习模型注入，从而完全消耗目标 DNN 系统的智能。同时，我们还讨论了几种缓解技术，以保护 DNN 免受此类攻击。

    Mar, 2020

  • 深度神经网络实际部署阶段后门攻击的探索

    探索深度神经网络 (DNNs) 部署阶段和相应防御中基于数据污染的后门攻击，以及实现物理实用性的后门注入算法 —— 子网替换攻击 (SRA)，结果表明该算法有效性与实用性，促进更多对 DNNs 在部署阶段脆弱性的关注。

    Nov, 2021

  • 可重构分布式 FPGA 集群设计用于深度学习加速器

    基于低功耗的内嵌 FPGA 提出的分布式系统，可用于边缘计算应用，通过分布式调度优化深度学习负载以获得最佳性能，同时可以在多种配置下评估和管理神经网络工作负载。

    May, 2023

  • 通过通用对抗扰动对深度神经网络进行全局指纹识别

    本文提出了一种新颖且实用的机制，通过模型提取攻击来验证是否从受害者模型中盗取了嫌疑模型，并针对深度神经网络模型提出了 UAP 指纹识别方法，训练了一个通过对比学习的编码器，可以在仅检测 20 个指纹的情况下以置信度 > 99.99 检测出模型 IP 侵犯，并且在不同的模型架构下具有良好的普适性，在盗版模型上具有较强的鲁棒性。

    Feb, 2022

  • 深度图像检索中无监督多标准对抗检测

    本文提出了一种高效无监督的方案，通过设计三个标准以限制敌对空间，从而在深度哈希算法供应链的漏洞下识别出混淆攻击，并在实时图像查询中获得 2-23% 的检测率提高。

    Apr, 2023

  • 存在缓存侧信道攻击时，深度神经网络的安全分析

    本文首次深入探讨利用缓存侧信道攻击的 DNN 指纹攻击的安全性分析，介绍了攻击工具 DeepRecon 以及元模型的构建，同时提出框架级别的防御技术来混淆攻击者的观察。

    Oct, 2018

  • 跨层优化的容错深度学习

    提出了一种基于容错深度学习加速器的方法，通过对深度学习处理组件的建筑层和电路层进行选择性保护，降低由于冗余计算造成的开销，并通过优化设计参数在算法层、建筑层和电路层上减少硬件资源消耗，同时满足可靠性、准确性和性能等多个用户约束。

    Dec, 2023