Jun, 2023

MutateNN: 硬件加速器上部署的图像识别模型的突变测试

PDF
TL;DR本研究提出了 MutateNN 工具，支持深度学习图像识别模型在不同硬件加速设备上进行变异测试和分析，以便于开发者和研究者探索模型的稳健性。通过在不同设备上部署 21 种变异并观察其性能，研究者们发现有些变异和算术类型有关的还不够稳定。
artificial intelligenceimage recognitionmodel optimizationhardware accelerationmutation testing
发现论文，激发创造
  • 深度变异：深度学习系统的变异测试

    本研究提出了一种专为深度学习系统设计的突变测试框架，通过注入故障来度量测试数据的质量，并在 MNIST 和 CIFAR-10 数据集上验证了其有效性。

    May, 2018

  • 一种差分测试框架用于评估图像识别模型的鲁棒性

    本文提出了一种差分测试框架，该框架可对多种计算环境参数进行深度学习模型变量生成、执行、差分分析和测试，对三种热门图像识别模型使用 ImageNet 数据集进行鲁棒性分析，评估了更改深度学习框架、编译器优化和硬件设备的影响。

    Jun, 2023

  • 基于分布偏移检测的深度神经网络的单次在线测试

    本篇论文提出了一种一次性测试方案，可以在使用 memristive crossbars 加速的神经网络中执行有效的失效测试，且只需一个测试向量，这可以有效减少内存开销和测试向量数量，同时提高失效覆盖率。

    May, 2023

  • 通过模型突变测试实现深度神经网络的对抗样本检测

    该研究提出了一种使用统计学假设检验和模型变化测试的敏感性测量方法，以在运行时检测基于 MNIST 和 CIFAR10 数据集的最新攻击方法生成的对抗样本的方法。结果表明，该方法可以高效准确地检测出对抗样本。

    Dec, 2018

  • 通过变异测试检测深度神经网络的对抗样本

    本文提出了一种基于统计的对抗样本检测算法 nMutant，并介绍了一种误差限制方法，可以有效地检测近期攻击方法生成的大部分对抗样本。

    May, 2018

  • 基于变异的深度神经网络故障定位

    深度神经网络的错误定位工具 deepmufl 在广泛的 DNN 模型中具有较好的有效性，并且可以在一半的错误定位时间内定位到高达 53/109 的错误位置，相比于静态和动态 DNN 错误定位系统具有更优的性能。

    Sep, 2023

  • 强缺陷神经形态硬件鲁棒训练方法的实验演示

    硬件感知训练和统计感知训练在神经网络中的应用，以应对硬件非理想性和缺陷的影响，提高网络性能。

    Dec, 2023

  • 使用 AutoML 实现加速器感知的神经网络设计

    采用硬件意识神经架构搜索，设计了一类适用于 Edge TPU 的计算机视觉模型，有效提升了实时图像分类性能并在像素 4 的边缘 TPU 上改善了精度 - 延迟权衡。

    Mar, 2020

  • 基于突变的神经文本检测器对抗攻击

    本论文提出了基于字符和词语的变异操作方法，用于生成对抗样本以攻击最先进的自然文本检测器，从而逐渐减少机器学习模型和分类器的预测准确性。

    Feb, 2023

  • 利用不确定性指纹进行神经网络的并行自检

    在这篇论文中，我们提出了一种代表神经网络在线故障状态的不确定性指纹方法，同时提出了一种双头神经网络拓扑结构，可以在一次推理过程中产生不确定性指纹和主要预测结果，从而实现高覆盖率的并发自测试神经网络，减少内存开销，降低错误率。

    Jan, 2024