Jul, 2023

ConFL: 机器学习框架的约束引导模糊测试

HTML
PDF
TL;DR本文提出了基于约束的模糊测试ConFL，利用约束自动提取输入约束并产生有效输入。实验结果表明，ConFL比现有技术更有效，且发现了TensorFlow，PyTorch和Paddle中的许多未知漏洞。
发现论文，激发创造
  • TensorFlow：大规模机器学习系统

    TensorFlow是一个机器学习系统，使用数据流图表示计算，共享状态以及操作，支持训练和推理深度神经网络等应用，并在多种真实世界应用中取得了出色的性能表现。

    May, 2016

  • TensorFlow Estimators: 高层次机器学习框架中简单性与灵活性的平衡管理

    提出了一个框架，以简化创新的机器学习方法，以便将这些技术应用于生产环境中。该框架允许用户编写代码以定义他们的机器学习模型，并提供抽象层以指导开发人员将模型编写为有利于生产环境的方式。通过使用特征列，对模型进行参数化，同时提供了一组实用程序，旨在加快实验工作，以使开箱即用的模型灵活且适用于各种问题。

    Aug, 2017

  • TensorFuzz:利用覆盖率引导模糊测试调试神经网络

    本研究介绍了用于发现神经网络中仅在罕见输入下出现错误的自动化软件测试技术，其中关键技术为基于覆盖率的模糊测试方法，并提出快速近似最近邻居算法来提供覆盖度量，最终开发了 TensorFuzz 开源库以实现这些技术。

    Jul, 2018

  • PyTorch：一款命令式的高性能深度学习库

    本文介绍了深度学习框架 PyTorch 的原则、架构及其对硬件的支持，重点阐述了 PyTorch 是一种Pythonic编程风格的机器学习库，同时保持了高效性。

    Dec, 2019

  • 开放式联邦学习框架 OpenFL

    Open Federated Learning是一种开源的数据私有协作学习框架，可用于训练TensorFlow和PyTorch中的机器学习算法，促进其在生产环境中的应用，同时也用于卫生组织中国际共识机器学习模型的培训。

    May, 2021

  • PyTorch内部错误的实证研究：一项复制研究

    通过研究PyTorch库的bug识别和修复过程，我们发现PyTorch的bug更像传统软件项目的bug，而不是与深度学习特性有关的。同时，我们还将结果与对TensorFlow的研究进行了比较，突出了在bug识别和修复过程中的相似之处和差异之处。

    Jul, 2023

  • 重温用于模糊测试的神经程序平滑技术

    通过对神经程序平滑化的深入分析，我们发现机器学习和基于梯度的变异对NPS模糊测试的贡献，为基于机器学习的模糊测试提出了新的基准指南，并提出了MLFuzz平台，用于容易且可复现地对基于ML的模糊测试进行评估。

    Sep, 2023

  • Python模糊测试可信机器学习框架

    确保机器学习框架的安全性和可靠性对于构建可信的基于人工智能的系统至关重要。我们提出了一个Python项目的动态分析流水线，使用Sydr-Fuzz工具集来实现模糊测试、语料库精简、崩溃分析和覆盖率收集，在GitLab CI中实现流水线集成，以发现和修复机器学习框架中的漏洞。

    Mar, 2024

  • CONFINE：可解释神经网络的拟合预测

    通过引入适应性神经网络的可证估计预测模型，CONFINE 可以增强模型透明度和可靠性，并提供基于样例的解释和置信度评估，从而提高模型准确性。

    Jun, 2024

  • 研究 TensorFlow 和 PyTorch 绑定对机器学习软件质量的影响

    本文研究了在C＃，Rust，Python和JavaScript中使用TensorFlow和PyTorch绑定对软件质量（正确性和时间成本）的影响，当使用五种常用深度学习模型进行训练和推断时，我们的实验表明，可以在一个绑定中训练模型，然后在另一个绑定中使用推断，而不会失去准确性。我们的研究首次表明，与默认的Python绑定相比，使用非默认绑定可以从时间成本的角度改善机器学习软件的质量，同时仍然达到相同的正确性水平。

    Jul, 2024