Mar, 2024

基于固有安全设计和运行时错误检测的安全关键应用深度学习认证框架

PDF
TL;DR基于深度学习的认证在安全关键应用中是一个非常重要的问题，本文通过研究使用于航空等安全关键领域的实际问题，调查机器学习研究社区中针对深度学习系统鲁棒性和可靠性验证的方法学，并提出了一个新的基于安全设计和运行时错误检测的深度学习认证框架。
deep learningcertificationsafety-critical applicationsrun-time error detectionuncertainty quantification
发现论文，激发创造
  • 利用深度神经网络的关键系统安全框架

    本文提出了一个基于贝叶斯分析的安全性论据框架，该框架使用运行数据和最新的深度学习验证技术，支持多种形式的预测，并针对实际的关键系统进行了建模和验证。

    Mar, 2020

  • 面向安全关键深度神经网络的可扩展验证

    本篇论文介绍了在安全重要应用领域中使用深度神经网络的问题，针对其可靠性和安全性的担忧，提出了采用形式化验证来保证其运行符合预期，并通过两个方向，即设计可扩展性的验证技术和识别可验证的深度学习系统的设计选择来缓解这一挑战。

    Jan, 2018

  • 深入探究：机器学习验证和验证综述及在汽车工业中的挑战探讨

    本文回顾了关于深度神经网络在安全关键系统中验证和验证方面的现有技术，并建议飞行器到汽车的知识转移和系统级的安全方法，例如安全笼架架构和模拟的系统测试案例。

    Dec, 2018

  • 机器学习系统认证的形式和实践要素

    该论文将机器学习应用于自主飞行中的视觉着陆，并建立了一个模型无关且工具独立的认证框架，以解决机器学习模型的可信度与航空认证之间的挑战。

    Oct, 2023

  • CC-Cert: 一种概率方法来证明神经网络的普适鲁棒性

    本文提出了一种基于 Chernoff-Cramer Bounds 的新型通用概率认证方法，可以用于对抗性攻击环境下的机器学习应用。实验结果支持了我们的理论发现，证明了我们的方法对于语义扰动具有防御能力。

    Sep, 2021

  • 验证学习为基础的安全关键航空系统的认证框架

    本文提出了一种针对航空系统中基于学习的组件进行设计时间和运行时保证的安全验证框架，该框架整合了两种新方法：同时考虑了离线和在线验证机制，并且允许各个模块使用独立的方法和技术进行开发，以满足系统不同阶段的安全性要求，从而实现系统产品的持续学习和评估。

    May, 2022

  • 面向基于机器学习的分布式系统的认证

    本文分析了目前认证方案存在的挑战和不足，讨论了开放的研究问题，并针对基于机器学习的分布式系统提出了第一个认证方案。

    May, 2023

  • 关于在安全关键型感知任务中使用深度学习的安全担忧与缓解方法

    本文讨论了深度学习方法在设计机器人、无人机或自动驾驶等自主代理感知管道中的不可或缺性，同时也指出了深度学习因安全问题限制了大规模应用的原因。本文针对深度学习的安全问题，提出了一些深入的技术层面的解决方法，并讨论了可能的缓解措施，以及还需要什么样的缓解措施来促进深度学习方法安全性的论点。

    Jan, 2020

  • 深度神经网络可靠性认证

    本文对深度神经网络抗对抗攻击的可靠性进行了研究和分析，并提出了目前的防御方法以及相应的理论和实践意义和发现，最后在不同数据集上提供了全面的鲁棒性验证和训练方法。

    Sep, 2020

  • 容错深度学习：层次视角

    本综述从模型层、架构层、电路层和交叉层等不同角度，全面调查故障容错深度学习设计方法，以应对深度学习在自动驾驶和机器人等关键领域的可靠性挑战。

    Apr, 2022