该论文将机器学习应用于自主飞行中的视觉着陆,并建立了一个模型无关且工具独立的认证框架,以解决机器学习模型的可信度与航空认证之间的挑战。
Oct, 2023
该研究提出了一个综合评估机器学习系统可靠性的方法,侧重考虑诸如敌对攻击、性能下降以及算法技术等方面的问题,并对 500 多个模型进行了分析,为未来的研究和发展提供了指导。
Jul, 2023
本文分析目前航空认证标准,显示特定机器学习开发工作流可做到低级 ML 系统达成标准。
Sep, 2022
现代应用越来越依赖于机器学习模型,其非确定性行为影响着从设计到操作的整个应用程序生命周期。这篇论文提出了一种基于动态分类器选择的多模型方法,它通过持续评估和替换模型来保证机器学习应用的稳定非功能行为,特别关注公平性的非功能属性。
Nov, 2023
基于深度学习的认证在安全关键应用中是一个非常重要的问题,本文通过研究使用于航空等安全关键领域的实际问题,调查机器学习研究社区中针对深度学习系统鲁棒性和可靠性验证的方法学,并提出了一个新的基于安全设计和运行时错误检测的深度学习认证框架。
Mar, 2024
通过将数据监督引入机器学习预测模型,我们提出了一种实时模型无关的方法,评估机器学习预测的相对可靠性,并通过针对操作数据集与训练数据集之间的差异来计算预测的相对可靠性,用以支持机器学习预测在常规插值任务中的可信度。
Aug, 2023
机器学习在工业系统中的应用以及其安全性和合规性对于决策辅助等关键功能具有重要意义,然而,当前机器学习组件的低形式化程度和不确定性使得使用传统的关键系统工程方法难以验证和验证其安全性,因此需要制定适用于人工智能的规范和监管标准,提出可信的人工智能认证方法和工具。
Sep, 2023
本文提出了一个基于现有进展的全面质量管理框架视角,并确定了软件工程研究的新领域,以实现更可靠的人工智能。
Jun, 2020
机器学习(ML)的成功伴随着对其可信度的日益关注。为了确保模型训练数据具有某些敏感属性的期望分布特性,一些司法管辖区正在制定 ML 监管框架。我们提出了财产证明的概念,允许证明者(例如,模型训练者)向验证者(例如,客户)证明训练数据的相关分布特性,而不泄露数据。我们提出了一种有效的混合财产证明方法,将属性推断与密码机制相结合。
机器学习在安全关键领域的使用依然存在挑战,论文讨论了这些挑战,提出了一种基于两步验证方法的可证明统计保证实现的方式。