Nov, 2023

副通道攻击破坏嵌入式人工智能的黑箱特性

PDF
TL;DR通过利用边信道攻击以提取 logits，我们提出了一种架构无关的黑盒攻击方法用于生成具有欺骗性的对抗样本，以证明边信道攻击在攻击神经网络时的有效性。
artificial intelligencedeep neural networksadversarial examplesblack box scenarioside-channel attack
发现论文，激发创造
  • 通过时间侧信道窃取神经网络

    本文提出利用时间侧信道攻击来推断神经网络模型深度的黑盒神经网络提取攻击，使用知识蒸馏和强化学习，有效减少了搜索空间，可以构造出与目标模型测试精度接近的替代模型，且该方法可扩展，并与神经网络结构类型无关。

    Dec, 2018

  • 机器学习的实用黑盒攻击

    该研究介绍了一种利用黑盒攻击实现远程控制机器学习模型的方法，该攻击方式不需要了解模型内部或训练数据。研究表明该黑盒攻击策略可适用于许多机器学习技术，并且能够规避之前发现的防御策略。

    Feb, 2016

  • 针对 DNN 的实用无盒对抗攻击

    通过使用少量的样本，本研究提出了三种机制进行训练，其中原型重建是最有效的，生成的对抗性样本可成功地转移至各种图像分类和面部验证模型，最终的应用结果显示我们的方法能够显著降低商业名人识别系统的预测准确率近 15.4％。

    Dec, 2020

  • 主动学习实现的查询效率高的黑盒攻击

    本文探究了 DNN 的黑盒攻击方案，使用现有的白盒攻击方法产生的采样样本进行训练替代模型，并提出主动学习策略和多样性准则以优化其表现，实验证明该方法可以将查询数量减少超过 90% 并保持黑盒攻击成功率。

    Sep, 2018

  • CSI 神经网络：使用侧信道恢复你的人工神经网络信息

    该研究利用非侵入式的侧信道信息，针对多层感知器神经网络，研究了如何逆向工程并获取该网络的构架及权重， 并展示了恢复输入所需的可行性和应对该攻击的几种缓解方法。

    Oct, 2018

  • 深度网络的简单黑盒对抗扰动

    研究表明，即使没有内部知识，对深度卷积神经网络进行黑盒攻击并制造对抗性样本是可行的，这暴露了深度神经网络的弱点，为设计安全的网络提供了检验。

    Dec, 2016

  • 逆向工程黑盒神经网络

    研究表明，通过一系列查询可以暴露神经网络的架构、优化程序或训练数据等属性，因此黑匣子神经网络更容易受到各种攻击，但该技术也可以用于更好地保护个人隐私。

    Nov, 2017

  • 卷积神经网络加速器能量侧信道攻击

    本论文提出了一种基于功率侧信道的攻击方法，在不了解神经网络的详细参数的情况下，能够从收集到的功率跟踪中恢复输入图像。在 MNIST 数据集上，我们的攻击能够实现最高 89% 的识别准确率。

    Mar, 2018

  • 计算机视觉中对抗攻击综述

    深度神经网络被广泛用于各种下游任务，尤其是自动驾驶等安全关键场景，但深度网络常常受到对抗样本的威胁。对抗攻击可以分为白盒攻击和黑盒攻击，前者攻击者知道模型的参数和梯度，后者攻击者只能获取模型的输入和输出。攻击者的目的可以分为有目标攻击和非有目标攻击，黑盒设置是我们实践中会遇到的情况。

    Aug, 2023

  • 研究 AES 侧信道攻击的高效深度学习架构

    近年来，深度学习在嵌入式加密应用的侧信道漏洞利用方面越来越受欢迎，因为它可以减少有效密钥恢复所需的攻击轨迹数量。本研究基于 ANSSI 侧信道攻击数据库（ASCAD），采用基于 JAX 的深度学习框架，重现了以前的一些结果并试图改进性能，并研究了各种基于 Transformer 的模型的有效性。

    Sep, 2023