Jul, 2023

深度神经网络的特征图测试

PDF
TL;DR在这项研究中，我们提出了 DeepFeature 用于从特征图层面测试深度神经网络。通过大量实验证明：(1) DeepFeature 是检测模型易受攻击特征图的强大工具；(2) DeepFeature 的测试用例选择具有高的错误检测率，能够检测更多类型的错误（与基于覆盖率引导的选择技术相比，错误检测率提高了 49.32%）；(3) DeepFeature 的模糊测试技术也优于当前的模糊测试技术，并且更高效地生成有价值的测试用例。
deep neural networksdeep learning testingtest metricsfault-inducing feature mapsdeepfeature
发现论文，激发创造
  • 通过深度神经网络中的特征图测试方式消除后门特征图

    通过 Feature Map Testing（FMT）检测和消除背门特征图，该方法能显著降低最复杂和看不见的攻击触发器的攻击成功率，并在维持模型性能的同时减轻背门攻击的影响。

    Jul, 2023

  • 深度神经网络测试

    提出了 4 种新的测试标准，为结构性特征和语义定制的深度神经网络，并通过对当前最先进的人工神经网络数据集进行实验来验证其有效性，以平衡测试用例生成的计算成本和发现缺陷的能力，同时在代理中使用对抗性例子。

    Mar, 2018

  • 基于可激发神经元的深度学习测试框架：从过度激动到错误

    为解决深度神经网络在实际应用中产生错误行为的问题，引入了基于 Shapley 值的可激励神经元概念，设计了一个名为 DeepSensor 的新颖测试框架，通过最大化与各种错误行为相关的可激励神经元数量，生成有效的测试样例，对包括图像分类模型和说话人识别模型在内的模型进行了广泛的实验，证明了 DeepSensor 的卓越性能。

    Feb, 2022

  • 基于变异的深度神经网络故障定位

    深度神经网络的错误定位工具 deepmufl 在广泛的 DNN 模型中具有较好的有效性，并且可以在一半的错误定位时间内定位到高达 53/109 的错误位置，相比于静态和动态 DNN 错误定位系统具有更优的性能。

    Sep, 2023

  • 深度学习的测试改进

    对神经网络的测试方法进行研究，提出了一种覆盖所有逻辑的覆盖率准则，并探讨了改进方法和需要快速、可扩展、通用的端到端测试方法的必要性。

    Feb, 2019

  • DLFuzz: 深度学习系统差分模糊化测试

    本文提出了 DLFuzz, 第一个可引导 DL 系统暴露错误行为的差分模糊测试框架，相比于 DeepXplore 具有更高的神经元覆盖率、更高效的寻找故障输入、更小的干扰等优势。

    Aug, 2018

  • 深度特征空间：几何视角

    本文提出了一种新的方法，用于可视化和理解神经网络输出层之前的向量空间，旨在揭示分类任务下的深层特征向量属性，特别是过拟合现象在特征空间中的本质和其对进一步应用的负面影响，并对其进行了真实应用场景的评估，证明了其突出性能优势。

    Jun, 2020

  • 测试前向神经网络训练程序

    该论文提出了一种名为 TheDeepChecker 的端到端基于属性的调试方法，以检测深度神经网络训练程序中的编码错误和系统失配，并表明其在检测准确性和深度学习故障覆盖面方面优于 Amazon SageMaker Debugger（SMD）的离线规则验证。

    Apr, 2022

  • 深度神经网络特征引导的黑箱安全测试

    本研究提出一种基于特征导引的黑盒攻击方法，可以应用于深度神经网络的安全测试，无需深入的网络知识，在人类视觉系统指导下对像素分布进行检测，并利用蒙特卡罗树搜索逐步探索游戏状态空间以寻找对抗性样本，当前方法在安全关键应用如自动驾驶车辆中的交通标志识别中具有广泛的应用前景。

    Oct, 2017

  • DeepPINK: 深度神经网络可重复的特征选择

    本研究提出了一种新的深度学习方法 ——DeepPINK，结合特征选择和控制误差率的想法来增加深度神经网络的可解释性和可重现性，并在模拟和真实数据集上展示了其实用性。

    Sep, 2018