安全关键的自主系统的相关性框架
安全过滤器方法综述,提供了一个统一的技术框架,以理解、比较和结合现有技术,为下一代自主机器人的部署提供更可扩展的综合、鲁棒性监测和高效干预的方向。
Sep, 2023
在部署自动驾驶车辆并获得实践经验后,有必要重新审视现有的计算机系统安全的定义和相关概念框架。当前工业安全标准所使用的术语强调对具体识别出的风险进行缓解,并假设基于人类监督的车辆操作。然而,无人驾驶模式极大地增加了安全问题的范围,特别是在开放环境中的操作,自我强制操作限制的要求,参与到自发的社会技术系统中,以及遵守法律和道德约束的要求。现有标准和术语只局部地应对了这些新挑战。我们提出了基于核心系统安全概念的更新定义,以涵盖这些额外的考虑,作为针对这些额外安全挑战不断进化的安全方法的起点。这些结果还可以为其他自主系统应用提供安全术语的构建提供指导。
Apr, 2024
为确保自动驾驶系统的安全运行,该研究引入了因果查询的正式化,建立了抽象的安全原则,从而降低与关键影响因素相关的临界性,并对数据采集、模型质量等方面做出了贡献。
Oct, 2022
通过探讨与保障支持因为设计而参数要求(例如安全性、安全性和可靠性)的合规性的确证缺陷检测、模式依赖以改善确证方案结构、改进现有确证方案符号以及(半)自动化确证方案生成等方面的挑战,提出了一些可能的解决方向。
Jan, 2024
为了确保机器人等自主车辆的广泛部署,本文提出了一种新的闭环范式用于综合安全控制策略,明确考虑系统在可能的未来情景下的演变不确定性,通过物理动力学和机器人的学习算法共同推理,利用对抗深度强化学习进行放大,展示了该框架能够处理贝叶斯信念传播和大规模预训练神经轨迹预测模型引起的隐式学习。
Sep, 2023
通过基于生成世界模型的可配置学习流水线,在不需要低维状态的情况下解决了在线安全预测问题,并提供了统计校准的安全机会预测保证。通过对图像控制系统的两个案例研究(赛车和平衡杆)进行广泛评估。
Aug, 2023
该文提出了一个自我评估的能力 —— 内省,并基于此提出了一个模型,通过输入的感应器数据可可靠地预测给定任务下系统的失败。该模型在室外自然环境下的视觉自主微型飞行器飞行中表现出效果显著。
Jul, 2016
通过采用现有方法扩展到城市领域,本研究定义感知数据集中的相关对象,并提供了一种基于运动预测组件的新的相关性验证方法,通过考虑大规模数据集中的预测性能的统计分布来量化对预测的影响,成功地验证了所提出的相关性标准的有效性。
Aug, 2023
本文提出了一种最小干预的安全控制器,通过使用到达性分析构建实时控制器,实现单车道场景中无碰撞互动的自动驾驶汽车交通合作,并验证其有效性及安全性。
Dec, 2018