面向低关键性空中应用的机器学习系统认证
近年来,机器学习(ML)技术在人工智能(AI)系统领域取得了显著进展,为航空业带来了前所未有的自动化机会,包括大型商用飞机的单人驾驶或完全自主飞行。然而,ML 技术与现有的空中认证标准存在严重不兼容性,如 ML 模型的可追踪性和可解释性问题,或者传统覆盖度指标的不适用性。当前标准下使用基于 ML 的空中系统的认证存在问题。本文通过一个案例研究,介绍了一个利用深度神经网络(DNN)进行机场标志检测和分类的空中系统。在我们之前的工作基础上,证明了系统符合设计保证等级(DAL)D 的要求,我们将系统升级以满足更严格的设计保证等级 C 的要求。为了实现 DAL C,我们采用了一种已建立的架构缓解技术,涉及两个冗余且不同的深度神经网络。对于这种方法,采用了创新的 ML 特定数据管理技术进行加强。本文旨在说明如何解决中等重要性空中应用中基于 ML 的系统的认证挑战。
Oct, 2023
机器学习在工业系统中的应用以及其安全性和合规性对于决策辅助等关键功能具有重要意义,然而,当前机器学习组件的低形式化程度和不确定性使得使用传统的关键系统工程方法难以验证和验证其安全性,因此需要制定适用于人工智能的规范和监管标准,提出可信的人工智能认证方法和工具。
Sep, 2023
基于深度学习的认证在安全关键应用中是一个非常重要的问题,本文通过研究使用于航空等安全关键领域的实际问题,调查机器学习研究社区中针对深度学习系统鲁棒性和可靠性验证的方法学,并提出了一个新的基于安全设计和运行时错误检测的深度学习认证框架。
Mar, 2024
本文分析了机器学习在汽车驾驶辅助和自动化操作中使用的安全认证方面的适用性,在 ISO 26262 安全生命周期中使用 ML 作为实现方法的影响,并提出了一组建议,以适应 ML 的标准。
Sep, 2017
本文回顾了机器学习在物理层无线通信系统中的应用及其带来的一些挑战,并着重介绍了机器学习在无线通信领域中的一些前沿技术及其在未来的研究方向,同时强调了基于物理层设计的分布式机器学习的可行性和需求。
Apr, 2019