AAAIJun, 2020

神经网络特洛伊检测器设计科学计算器

PDF
TL;DR设计了一种基于 TensorFlow Playground 的在线神经网络（NN）计算器和一种用于探测嵌入式晶体管的 NN 效率测量方法，通过使用修改后的 Kullback-Liebler 散度应用于 NN 模型状态的直方图，同时量化与数据和 NN 相关的变量的敏感性，开发了一种基于 NN 计算器和 KL 散度的 Trojan 检测方法，并通过实验结果验证了其可行性和高效性。
发现论文，激发创造
  • 实用的发现木马神经网络方法：数据受限和无数据情况

    本文探讨了当训练数据遭到恶意篡改时，如何在只能访问已训练深度神经网络的权重的情况下，检测到网络的特洛伊后门攻击（也称为毒化后门攻击），并提出了数据受限和数据无关的特洛伊检测器，该方法通过对定向攻击和预测规避攻击的连接来实现特洛伊检测。实验结果使用 CIFAR-10、GTSRB 和 ImageNet 数据集进行了验证。

    Jul, 2020

  • 深度神经网络中特洛伊攻击的表面简单方法

    本文提出了一种新的训练免费的攻击方法，使用一个小的特洛伊模块（TrojanNet）将恶意特征插入目标模型，该模型通过特殊标记对输入进行标记，并将所有标签注入特洛伊，攻击成功率达到 100％，且不会影响模型在原始任务上的准确性。

    Jun, 2020

  • ANN 的免费午餐：朝着高效、准确的脉冲神经网络校准迈进

    本文提出了一种称为 SNN Calibration 的校准算法，通过对神经网络参数的校准，能够显著提高将 ANN 转换为 SNN 的结果，本算法引入了一个便宜而有效的方法，通过在少量训练数据上进行训练，并在几分钟内完成校准。详细实验结果表明，该算法在大规模的 ImageNet 数据集上能够产生先进的 SNN 体系结构，并且与基准相比，在 MobileNet 转换中能够提高达 69％的 top-1 准确性。

    Jun, 2021

  • 神经网络中的可扩展后门检测

    该论文提出了一种基于触发器反向工程的方法来检测深度学习模型的后门攻击，该方法在实验中表现卓越，能完美地区分被套件攻击的模型和纯模型。

    Jun, 2020

  • 基于扰动敏感性的自然语言处理神经木马检测框架 PerD

    该论文提出了一种基于模型输出偏差分析的模型级神经木马检测框架来检测 NLP 领域的神经木马，并提出了一种轻量级变体以提高检测速度。

    Aug, 2022

  • 神经网络中后门的交互式模拟

    在这篇论文中，研究了在人工智能模型中植入和防御基于密码学的后门的问题，并通过设计了一个基于网络的模拟平台，模拟了在神经网络中植入、激活和防御密码学后门的场景，以及通过接近度分析提供了一种植入和防御后门的游戏模拟。

    May, 2024

  • QTrojan：一种针对量子神经网络的电路后门

    提出了一种适用于量子神经网络（QNNs）的电路级后门攻击 - QTrojan，这种攻击通过将少量量子门插入受害 QNN 的变分量子电路来实现，并且比之前的数据污染型后门攻击（DPBA）更加隐蔽。与 DPBA 相比，QTrojan 提高了清洁数据的准确率 21％，攻击成功率提高了 19.9％。

    Feb, 2023

  • TBT: 基于位木马的有针对性神经网络攻击

    本研究提出了一种新的目标二进制特洛伊（TBT）方法，为实现模型的恶意攻击，通过比特翻转攻击将特定的神经特洛伊插入到深度神经网络中。研究表明，只需利用可用的比特翻转技术（即行锤），翻转几个易受攻击的比特就可以将功能完好的 DNN 模型转化为特洛伊感染的模型，并实现将测试图像的 92％分类到目标类的目的。

    Sep, 2019

  • Cassandra: 从对抗扰动中检测木马网络

    本文提出了一种检测预训练模型是否被恶意篡改的方法，该方法通过学习神经网络的参数来捕获其对抗扰动，以检测是否存在后门；同时，本文还提出了一种异常检测方法来确定被感染的网络的目标类别。实验结果表明该方法检测恶意后门的准确率高达 92% 以上。

    Jul, 2020

  • TrojAI 软件框架：一种用于将特洛伊木马嵌入深度学习模型的开源工具

    本文介绍了 TrojAI 软件框架，它是一套开源的 Python 工具，可以生成带有木马的数据集和相应的深度学习模型，以及演示了利用该框架生成基于 MNIST 的带有木马的分类器和使用矢量观测生成带有木马的强化学习模型的能力。同时，该框架还能用于快速全面测试新的木马检测方法。

    Mar, 2020