Apr, 2024

重新定义自动驾驶车辆的安全性

PDF
TL;DR在部署自动驾驶车辆并获得实践经验后，有必要重新审视现有的计算机系统安全的定义和相关概念框架。当前工业安全标准所使用的术语强调对具体识别出的风险进行缓解，并假设基于人类监督的车辆操作。然而，无人驾驶模式极大地增加了安全问题的范围，特别是在开放环境中的操作，自我强制操作限制的要求，参与到自发的社会技术系统中，以及遵守法律和道德约束的要求。现有标准和术语只局部地应对了这些新挑战。我们提出了基于核心系统安全概念的更新定义，以涵盖这些额外的考虑，作为针对这些额外安全挑战不断进化的安全方法的起点。这些结果还可以为其他自主系统应用提供安全术语的构建提供指导。
computer-based system safetyautonomous vehiclessafety concernsopen world environmentcore system safety concepts
发现论文，激发创造
  • 自主驾驶汽车中的机器学习安全实用解决方案

    本文讨论了自动驾驶汽车中的机器学习安全性问题，总结了一些实用的机器学习安全技术，以增强算法的可靠性和安全性，并讨论了机器学习组件的安全性限制和用户体验方面。

    Dec, 2019

  • 从操作测试中评估安全关键系统：自动驾驶汽车研究

    使用保守贝叶斯推断方法，探讨从技术层面如何评估自动驾驶系统，维护其高可靠性和安全性。

    Aug, 2020

  • 开放自主安全案例框架

    基于自动驾驶车辆行业多年的工作，本文介绍了开放自治安全案例框架作为如何安全和负责任地部署自动驾驶车辆的指导路线。

    Apr, 2024

  • 学习感知交互式自主安全性

    为了确保机器人等自主车辆的广泛部署，本文提出了一种新的闭环范式用于综合安全控制策略，明确考虑系统在可能的未来情景下的演变不确定性，通过物理动力学和机器人的学习算法共同推理，利用对抗深度强化学习进行放大，展示了该框架能够处理贝叶斯信念传播和大规模预训练神经轨迹预测模型引起的隐式学习。

    Sep, 2023

  • 安全过滤器：自主系统中安全关键控制的统一视角

    安全过滤器方法综述，提供了一个统一的技术框架，以理解、比较和结合现有技术，为下一代自主机器人的部署提供更可扩展的综合、鲁棒性监测和高效干预的方向。

    Sep, 2023

  • 人工智能安全性的具体问题再探讨

    AI 安全的概念在社会中日益普及，AI 社区越来越关注 AI Safety 的概念，即防止在 AI 部署过程中系统行为意外偏离设计意图而导致的故障。通过分析真实案例，我们展示了当前的词汇虽然能够涵盖 AI 部署中遇到的一系列问题，但仍需要一个扩展的社会技术框架来更好地理解 AI 系统和实施的安全机制在现实生活中的成功与失败。

    Dec, 2023

  • 自动驾驶车辆安全性：基于模型与基于人工智能两种方法的调查

    本文调查研究自动驾驶汽车的安全性保障问题，重点关注控制架构、风险评估与管理策略、基于人工智能和基于模型的方法的研究，并探讨了安全保障技术和安全框架的标准化 / 概括方法。

    May, 2023

  • 关于自动驾驶车辆风险评分的反事实安全边界视角

    自动驾驶车辆的风险评估是一项具有挑战性的任务，本文提出了一种基于数据驱动的框架，通过对 “不当行为” 道路用户的对照模拟来比较不同自动驾驶车辆在不同操作设计领域的风险。引入了反事实安全余量的概念，用于表示最小偏差与正常行为之间可能导致碰撞的关系，展示了该方法在未知行为策略下仍可适用，从而有助于第三方风险评估，并在自动驾驶车辆供应商之间的相对风险方面提供了洞察。

    Aug, 2023

  • 关于安全可扩展自动驾驶汽车的形式化模型

    该研究旨在给自动驾驶车增加两个参数，即安全性保证的标准化和系统的可扩展性，提出了一种名为 RSS 的白盒、可解释、数学模型来确保安全性，并描述了一个符合我们安全保证要求且可扩展到数百万辆汽车的系统设计。

    Aug, 2017

  • 自动驾驶感知中的深度学习安全问题

    近期深度学习领域的进展以及深度神经网络对感知任务取得的出色表现，引发了在自动驾驶系统中使用它们的需求。为了系统地保证基于深度神经网络的自动驾驶系统的安全性，本文引入了一种称为安全关注的结构化元素，扩展和完善了其概念，并引入了额外的分类，以促进跨职能团队共同解决相关问题。

    Sep, 2023