本文讨论了自动驾驶汽车中的机器学习安全性问题,总结了一些实用的机器学习安全技术,以增强算法的可靠性和安全性,并讨论了机器学习组件的安全性限制和用户体验方面。
Dec, 2019
机器学习在工业系统中的应用以及其安全性和合规性对于决策辅助等关键功能具有重要意义,然而,当前机器学习组件的低形式化程度和不确定性使得使用传统的关键系统工程方法难以验证和验证其安全性,因此需要制定适用于人工智能的规范和监管标准,提出可信的人工智能认证方法和工具。
Sep, 2023
该研究论文提出了 SafeML 这一模型无关的方法,用于监控在自动驾驶等环境中运行的机器学习模型的安全性和可靠性,通过引入基于经验特征函数 (ECF) 的新距离度量方法,消除了二元决策的限制和数据分布假设的依赖,并提高了计算速度。
Dec, 2023
提出了一种用于安全智能控制城市轨道交通自主运营列车的 SSA-DRL 框架,结合了线性时态逻辑、强化学习和蒙特卡洛树搜索,可以生成满足速度约束、时间表约束和优化运营流程的安全控制指令序列。通过消融实验和与计划操作方案的比较,评估了该框架在城市轨道交通自主运营中的决策效果。
Nov, 2023
本论文旨在明确机器学习安全的定义,并通过研究智能决策科学和数据产品等应用领域,探讨实现机器学习安全的四种策略,包括内在安全设计、安全保护垫、安全失败和程序保护,并提出相应的技术方法和异议函数,以确保解释性、因果性、人工参与和用户体验设计等方面的安全性。
Oct, 2016
使用保守贝叶斯推断方法,探讨从技术层面如何评估自动驾驶系统,维护其高可靠性和安全性。
Aug, 2020
通过整数规划模型,结合机器学习技术,采用各种方法如泛化线性模型、线性回归和循环神经网络,我们旨在在最短路径和最安全路线之间实现安全和效率的平衡。通过在不同地铁站点上计算均方根误差(RMSE),我们评估最准确的安全系数模型,并进行全面的最短路径算法综述,根据时间复杂度和真实世界数据评估其在安全和时间效率融合中的适用性。
Oct, 2023
传统的自动化技术无法实现无人驾驶列车在非受限基础设施上的运行,此研究论文介绍了一个安全可靠的机器学习运维过程,用于持续开发和安全保证铁路领域的机器学习系统。该过程集成了系统工程、安全保证和机器学习生命周期,并自动化了不同阶段的挑战。
Jul, 2023
本文分析了机器学习在汽车驾驶辅助和自动化操作中使用的安全认证方面的适用性,在 ISO 26262 安全生命周期中使用 ML 作为实现方法的影响,并提出了一组建议,以适应 ML 的标准。
Sep, 2017
本文调查研究自动驾驶汽车的安全性保障问题,重点关注控制架构、风险评估与管理策略、基于人工智能和基于模型的方法的研究,并探讨了安全保障技术和安全框架的标准化 / 概括方法。
May, 2023