Mar, 2024

Python 模糊测试可信机器学习框架

PDF
TL;DR确保机器学习框架的安全性和可靠性对于构建可信的基于人工智能的系统至关重要。我们提出了一个 Python 项目的动态分析流水线，使用 Sydr-Fuzz 工具集来实现模糊测试、语料库精简、崩溃分析和覆盖率收集，在 GitLab CI 中实现流水线集成，以发现和修复机器学习框架中的漏洞。
发现论文，激发创造
  • ConFL: 机器学习框架的约束引导模糊测试

    本文提出了基于约束的模糊测试 ConFL，利用约束自动提取输入约束并产生有效输入。实验结果表明，ConFL 比现有技术更有效，且发现了 TensorFlow，PyTorch 和 Paddle 中的许多未知漏洞。

    Jul, 2023

  • FuzzerGym: 一种用于模糊测试和学习的竞争性框架

    本研究旨在提出一种新型的 fuzzing 方法，它从程序当前状态信息入手，利用强化学习优化变异算子，以达到更全面的覆盖率，并使程序监视器与深度神经网络相连接，能够同时利用强化学习以及 fuzzing 的优势来优化测试用例。

    Jul, 2018

  • PyTorch 内部错误的实证研究：一项复制研究

    通过研究 PyTorch 库的 bug 识别和修复过程，我们发现 PyTorch 的 bug 更像传统软件项目的 bug，而不是与深度学习特性有关的。同时，我们还将结果与对 TensorFlow 的研究进行了比较，突出了在 bug 识别和修复过程中的相似之处和差异之处。

    Jul, 2023

  • 深度学习实现中的安全风险

    这篇论文揭示了流行的深度学习框架包括 Caffe，TensorFlow 和 Torch 存在的一系列漏洞，并讨论了这些漏洞对语音识别和图像分类等深度学习应用的影响，指出攻击者可以利用这些漏洞进行拒绝服务攻击，攻击崩溃或悬挂深度学习应用程序，或控制流劫持攻击，这将导致系统妥协或识别规避。该论文的目标是引起人们对软件实现的注意，并号召社区努力提高深度学习框架的安全性。

    Nov, 2017

  • 神经字节筛选器用于模糊测试：并非所有字节都相等

    通过使用神经网络学习输入文件中的模式，将以前的 fuzzing 探索的经验用于指导未来的探索，从而实现对程序漏洞发现的改进。

    Nov, 2017

  • DLFuzz: 深度学习系统差分模糊化测试

    本文提出了 DLFuzz, 第一个可引导 DL 系统暴露错误行为的差分模糊测试框架，相比于 DeepXplore 具有更高的神经元覆盖率、更高效的寻找故障输入、更小的干扰等优势。

    Aug, 2018

  • TensorFuzz: 利用覆盖率引导模糊测试调试神经网络

    本研究介绍了用于发现神经网络中仅在罕见输入下出现错误的自动化软件测试技术，其中关键技术为基于覆盖率的模糊测试方法，并提出快速近似最近邻居算法来提供覆盖度量，最终开发了 TensorFuzz 开源库以实现这些技术。

    Jul, 2018

  • 深度学习系统的安全弱点和漏洞

    通过对 AI 软件系统中深度学习技术的脆弱性进行系统研究，我们提出了一个两流数据分析框架，探索各种数据库中的脆弱性模式，并进行了大规模实证研究来理解脆弱性的模式和修复中的挑战，以推进安全的深度学习系统的发展。

    Jun, 2024

  • 探索模糊测试作为神经测试生成的数据增强

    本文介绍了一种将模糊测试和大型语言模型相结合的新型数据增强技术 **FuzzAug**，用于增强神经测试生成数据集，从而提高代码生成模型的准确性和分支覆盖率，增强自动化软件测试的效用。

    Jun, 2024

  • 基于大型语言模型的模糊测试技术综述

    本文调查总结了截至 2024 年的最新方法，统计分析了三个领域（即 LLMs、模糊测试和基于 LLMs 的模糊测试），并探讨了将基于 LLMs 的模糊测试技术广泛应用于未来的潜力。

    Feb, 2024