基于图像控制的自主安全概率的校准预测

Aug, 2023

基于图像控制的自主安全概率的校准预测

How Safe Am I Given What I See? Calibrated Prediction of Safety Chances for Image-Controlled Autonomy

Zhenjiang Mao, Carson Sobolewski, Ivan Ruchkin

TL;DR通过基于生成世界模型的可配置学习流水线，在不需要低维状态的情况下解决了在线安全预测问题，并提供了统计校准的安全机会预测保证。通过对图像控制系统的两个案例研究（赛车和平衡杆）进行广泛评估。

Abstract

end-to-end learning has emerged as a major paradigm for developing autonomous systems. Unfortunately, with its performance and convenience comes an even greater challenge of safety assurance. A key factor of this

end-to-end learning safety assurance online safety prediction generative world models statistical calibration

发现论文，激发创造

学习感知交互式自主安全性

为了确保机器人等自主车辆的广泛部署，本文提出了一种新的闭环范式用于综合安全控制策略，明确考虑系统在可能的未来情景下的演变不确定性，通过物理动力学和机器人的学习算法共同推理，利用对抗深度强化学习进行放大，展示了该框架能够处理贝叶斯信念传播和大规模预训练神经轨迹预测模型引起的隐式学习。

Sep, 2023

基于感知的控制鲁棒性保证

利用感知地图控制自主车辆的问题，设计针对该感知方案的闭环系统安全集和稳健控制器，方法是从复杂和非线性的数据中提取一些与状态相关的线性函数预测值，并在适当的稠密状态空间采样下学习参数，以获得有利的泛化性能。在合成示例和 CARLA 的自动驾驶模拟平台上验证了该方法的实用性。

Jul, 2019

基于学习的模型预测控制用于安全探索

本文提出了一种基于学习的模型预测控制方案，其可以提供可证明的高概率安全保证，并利用正态分布先验的规则性假设来构建可证明准确的置信区间，保证轨迹满足安全约束，通过终端集约束递归地保证每个迭代中存在安全控制动作。在实验中展现了该算法可以用来安全、高效地探索和学习动态系统。

Mar, 2018

基于基础世界模型的自主机器人零射击安全预测

提出了基础世界模型，通过将观察结果转化为有意义且因果潜在的表示，使代理动力学可以直接预测因果未来状态，并且在安全预测任务中表现优于标准世界模型，与监督学习相比具有可比拟的性能，而且不需要使用任何数据。

Mar, 2024

具有模型不确定性估计的安全强化学习

使用 MC-Dropout 和 Bootstrapping 方法来提高安全驾驶机器人的模型稳定性，实现在未知数据情况下的碰撞回避。

Oct, 2018

自主车辆上的安全强化学习

本研究探讨了如何通过预测来约束探索，从而实现强化学习在自动驾驶中的安全学习。

Sep, 2019

自主驾驶汽车中的机器学习安全实用解决方案

本文讨论了自动驾驶汽车中的机器学习安全性问题，总结了一些实用的机器学习安全技术，以增强算法的可靠性和安全性，并讨论了机器学习组件的安全性限制和用户体验方面。

Dec, 2019

基于共形预测的随机传感器不确定性下安全感知控制

使用感知映射通过学习获取状态估计的感知控制，通过量化感知映射的估计不确定性并将这些不确定性表示整合到控制设计中，采用符合预测来计算有效的状态估计区域，从而设计采用自我触发控制思想的取样数据控制器，以避免使用随机微积分并在具有李达（LiDAR）能力的 F1 / 10th 汽车中演示了控制器的有效性。

Apr, 2023

一个计算轻量级的安全学习算法

在这篇论文中，我们提出了一种安全学习算法，通过使用 Nadaraya-Watson 估计器而不是高斯过程，提供概率安全保证，并且在数据点数量方面实现对数级别的扩展。我们为估计结果提供了理论保证，将其嵌入到一个安全学习算法中，并在模拟的七自由度机器人操纵器上进行了数值实验。

Sep, 2023

自动驾驶概率物体检测器的校准 —— 我们能信任你吗？

本文提出三种实用方法，旨在显著减少激光雷达 3D 物体检测网络中不确定性的估计误差，以达到更加准确的不确定性校准，从而最大程度地提高安全性。

Sep, 2019