Sep, 2017

ISO 26262 分析：在汽车软件中安全地使用机器学习

PDF
TL;DR本文分析了机器学习在汽车驾驶辅助和自动化操作中使用的安全认证方面的适用性，在 ISO 26262 安全生命周期中使用 ML 作为实现方法的影响，并提出了一组建议，以适应 ML 的标准。
发现论文，激发创造
  • 自主驾驶汽车中的机器学习安全实用解决方案

    本文讨论了自动驾驶汽车中的机器学习安全性问题，总结了一些实用的机器学习安全技术，以增强算法的可靠性和安全性，并讨论了机器学习组件的安全性限制和用户体验方面。

    Dec, 2019

  • 深入探究：机器学习验证和验证综述及在汽车工业中的挑战探讨

    本文回顾了关于深度神经网络在安全关键系统中验证和验证方面的现有技术，并建议飞行器到汽车的知识转移和系统级的安全方法，例如安全笼架架构和模拟的系统测试案例。

    Dec, 2018

  • 机器学习安全性：网络物理系统、决策科学和数据产品

    本论文旨在明确机器学习安全的定义，并通过研究智能决策科学和数据产品等应用领域，探讨实现机器学习安全的四种策略，包括内在安全设计、安全保护垫、安全失败和程序保护，并提出相应的技术方法和异议函数，以确保解释性、因果性、人工参与和用户体验设计等方面的安全性。

    Oct, 2016

  • 机器学习系统认证的形式和实践要素

    该论文将机器学习应用于自主飞行中的视觉着陆，并建立了一个模型无关且工具独立的认证框架，以解决机器学习模型的可信度与航空认证之间的挑战。

    Oct, 2023

  • 面向低关键性空中应用的机器学习系统认证

    本文分析目前航空认证标准，显示特定机器学习开发工作流可做到低级 ML 系统达成标准。

    Sep, 2022

  • 没有法规就没有信任！

    机器学习在工业系统中的应用以及其安全性和合规性对于决策辅助等关键功能具有重要意义，然而，当前机器学习组件的低形式化程度和不确定性使得使用传统的关键系统工程方法难以验证和验证其安全性，因此需要制定适用于人工智能的规范和监管标准，提出可信的人工智能认证方法和工具。

    Sep, 2023

  • 基于人工智能的汽车应用软件元素具备的固有多样冗余安全机制

    通过研究自动驾驶系统中基于人工智能的算法，本文探讨了人工智能模型的作用和挑战，特别是在复杂和高维环境中执行实时关键功能的软件元素。针对安全关键应用，为了减少 AI 模型过于自信带来的风险，提出了一些培训方法，如实现确定性报告架构和确保多样性训练数据。此外，还讨论了现有方法在安全关键应用中的适用性，强调了其优点和局限性，并提出了提高自动驾驶车辆中人工智能算法安全性和可靠性的潜在改进措施。

    Feb, 2024

  • 自动驾驶汽车的开发、测试和验证方案

    本文介绍 ISO 26262 标准在安全导向的安全关键电 / 电动汽车系统的开发方面的相关内容，提出了在不同过程步骤中实现场景表​​示的要求，并基于先前的出版物确定了一致的术语，以演示如何在 ISO 26262 标准概述的开发过程的各个阶段中系统地发展场景。

    Jan, 2018

  • 机器学习软件测试

    讨论机器学习的软件测试以确保其正确性和可靠性，尤其是在安全关键应用中存在欺骗和错误等挑战，探讨六个关键挑战领域及其局限，提出继续研究方向。

    Apr, 2022

  • 机器学习中的工程安全

    本文探讨了机器学习算法越来越在日常生活中影响我们的决策和与我们互动，因此我们必须考虑涉及机器学习的系统的安全性，本文提出了四种不同的实现安全性的策略，并讨论了应用中可能存在的不完全符合现代统计机器学习基本原则的因素。

    Jan, 2016