CVPRApr, 2022

神经元覆盖率对于提高人体检测的鲁棒性是否必要？

PDF
TL;DR本篇论文探讨了使用基于覆盖率的测试（CGT）方法对拥挤场景下人体检测中的深度神经网络（DNN）进行改进，并发现了数千种不正确的 DNN 行为，但未能证明探究的覆盖率指标可以用于提高 DNN 的鲁棒性。
deep neural networkscoverage-guided testingperson detectiondnn bugsrobustness
发现论文，激发创造
  • TensorFuzz: 利用覆盖率引导模糊测试调试神经网络

    本研究介绍了用于发现神经网络中仅在罕见输入下出现错误的自动化软件测试技术，其中关键技术为基于覆盖率的模糊测试方法，并提出快速近似最近邻居算法来提供覆盖度量，最终开发了 TensorFuzz 开源库以实现这些技术。

    Jul, 2018

  • 深度神经网络的覆盖率与鲁棒性之间存在有限的相关性

    通过实证研究 100 个 DNN 模型和 25 种指标，发现 DNN 的测试覆盖率与鲁棒性之间的相关性有限，即提高测试覆盖率并不能帮助提高鲁棒性。这个研究提出的数据集和实现也可以作为测试 DNN 的基准。

    Nov, 2019

  • 深度神经网络测试

    提出了 4 种新的测试标准，为结构性特征和语义定制的深度神经网络，并通过对当前最先进的人工神经网络数据集进行实验来验证其有效性，以平衡测试用例生成的计算成本和发现缺陷的能力，同时在代理中使用对抗性例子。

    Mar, 2018

  • 深度学习的测试改进

    对神经网络的测试方法进行研究，提出了一种覆盖所有逻辑的覆盖率准则，并探讨了改进方法和需要快速、可扩展、通用的端到端测试方法的必要性。

    Feb, 2019

  • 神经网络的精确与广义鲁棒性认证

    该论文提出了一种新的框架 GCERT，可根据语义层面的图像变异准确地验证神经网络的鲁棒性，并通过生成模型的潜在空间中的方向将全面的语义层面的图像变异一致地表示为整体，以获得精确的分析友好的输入空间表示，同时大大缩短了鲁棒性认证的时间成本。

    Jun, 2023

  • 使用生成模型进行神经网络的分布感知测试

    针对系统安全和可信度需要进行深入测试的 DNN (DNN 指深度神经网络) 组件，提出了一种基于深度生成模型算法的有效测试方法，以消除无效的测试并提高测试输入的有效性。

    Feb, 2021

  • 神经网络测试结构覆盖度测量概述

    本文提供了 DNN 模型测试的结构覆盖度量方法，包括神经元覆盖率（NC）、k 部分神经元覆盖率（kMNC）、前 k 个神经元覆盖率（TKNC）、神经元边界覆盖率（NBC）、强神经元激活覆盖率（SNAC）和修改条件 / 决策覆盖（MC/DC），并评估了这些措施在多个模型中的表现。我们提供了一个测量所有度量标准的测试覆盖率的工具：DNNCov。DNNCov 提供了一个信息丰富的覆盖率报告，以便研究人员和从业者评估 DNN 测试的充分性，比较不同的覆盖度量标准，并在测试期间更方便地检查模型的内部。

    Aug, 2022

  • 深度神经网络的特征图测试

    在这项研究中，我们提出了 DeepFeature 用于从特征图层面测试深度神经网络。通过大量实验证明：(1) DeepFeature 是检测模型易受攻击特征图的强大工具；(2) DeepFeature 的测试用例选择具有高的错误检测率，能够检测更多类型的错误（与基于覆盖率引导的选择技术相比，错误检测率提高了 49.32%）；(3) DeepFeature 的模糊测试技术也优于当前的模糊测试技术，并且更高效地生成有价值的测试用例。

    Jul, 2023

  • 神经元覆盖引导的领域泛化

    这篇论文研究了如何通过最大化深度神经网络的神经元覆盖率和使用梯度相似性正则化来改善域泛化任务中对于未知样本的决策能力，并通过对网络解剖的可视化分析证明了该方法的合理性和有效性。

    Feb, 2021

  • 利用置信图神经网络进行图形不确定性量化

    本研究提出了一种基于置信度的图神经网络模型 CF-GNN，以保证模型的可靠性，所采用的置信度预测方法即为 conformal prediction，该方法可产生预测区间，该区间内包含了真值标签，该模型通过拓扑感知输出修正模型减少了预测集大小，从而实现了较高的预测精度。

    May, 2023