使用保守贝叶斯推断方法，探讨从技术层面如何评估自动驾驶系统，维护其高可靠性和安全性。

Aug, 2020

研究实施了一种模拟测试框架来评估自动驾驶汽车系统的性能，并采用自适应重要性抽样方法加速稀有事件概率评估，评估了 Comma AI 的 OpenPilot，对自主车辆技术的测试和验证提出了新的方法。

Dec, 2019

自动驾驶策略研究提出了基于风险预测的方法，利用周围车辆的重量建立风险指示器并采用分层深度强化学习。模拟结果显示该方法能同时降低潜在事故的发生几率和后果，并提高驾驶效率。

Dec, 2023

自动驾驶汽车的伦理不仅仅在于在不可避免的事故中权衡生命，而是在正常交通情况下分配风险，这引发了道德上的问题，我们的参与者愿意为了其他路上的用户的利益冒险，暗示着在风险的背景下，AV 社会困境可能会减轻。

May, 2022

本文调查研究自动驾驶汽车的安全性保障问题，重点关注控制架构、风险评估与管理策略、基于人工智能和基于模型的方法的研究，并探讨了安全保障技术和安全框架的标准化 / 概括方法。

May, 2023

我们提出了一个基于自适应压力测试方法的新框架，用于系统地探索可能导致安全问题的角落案例，以提高自动驾驶汽车的安全性和可靠性。

Feb, 2024

自动驾驶车辆在道路上要做出道德决策是个难题，虽然参与研究的用户表示支持牺牲乘客保护其他人的车辆，但他们在自己乘坐时更倾向于保护自己。因此，规定强制使用利他主义算法的车辆可能会推迟更安全技术的推广从而增加事故发生率。

Oct, 2015

任何自主控制器在某些情况下都可能不安全，定量识别这些不安全情况的能力对于及时引起人类监督至关重要。本研究展示了真正危急情况的临界性可以被鲁棒地定义为随机行动导致的奖励减少的平均值。可以将实时计算的代理临界性度量与真正的临界性进行比较，并展示如何利用这些代理度量生成安全裕度，直接将潜在错误行动的后果与整体性能损失联系起来。我们在 Atari 环境中评估了来自 APE-X 和 A3C 的学习策略，并展示了安全裕度随着代理逼近失败状态而减少。将安全裕度整合到监测已部署代理的程序中，可以实时识别潜在的灾难性情况。

Jul, 2023

本文介绍了一个基于不确定性感知的集成预测和规划框架，在考虑人的礼貌及预测不确定性的同时生成安全有效的 AV 行为。研究表明，该算法可以明显提高生成行为的人类感，同时还发现人类驾驶员在道路上表现出很大的礼貌，即使对于没有优先权的其他人行驶者，而且这种驾驶偏好在不同文化中存在显著差异。

Oct, 2020

在部署自动驾驶车辆并获得实践经验后，有必要重新审视现有的计算机系统安全的定义和相关概念框架。当前工业安全标准所使用的术语强调对具体识别出的风险进行缓解，并假设基于人类监督的车辆操作。然而，无人驾驶模式极大地增加了安全问题的范围，特别是在开放环境中的操作，自我强制操作限制的要求，参与到自发的社会技术系统中，以及遵守法律和道德约束的要求。现有标准和术语只局部地应对了这些新挑战。我们提出了基于核心系统安全概念的更新定义，以涵盖这些额外的考虑，作为针对这些额外安全挑战不断进化的安全方法的起点。这些结果还可以为其他自主系统应用提供安全术语的构建提供指导。

Apr, 2024