大语言模型自动驾驶的安全要求工程化
大型语言模型在安全工程领域中用于自动化风险分析的潜力进行了系统评估,并提出了一个支持以大型语言模型为基础的风险分析自动化的框架。
Mar, 2024
自动驾驶面临重要的挑战:公众信任问题和长尾未知驾驶场景的安全担 忧。为解决这个问题,本文提倡在自动驾驶系统中整合大型语言模型,充分利用其强大的常识知识、推理能力和人机交互能力,将其作为智能决策者来提升整体自动驾驶性能和安全性。本文展示了两个案例研究的结果,证实了我们方法的有效性。此外,我们还讨论了将大型语言模型整合到其他自动驾驶软件组件 (包括感知、预测和仿真) 的潜在优势。尽管在案例研究中面临挑战,但大型语言模型的整合对于加强自动驾驶的安全性和性能具有潜在的希望和益处。
Nov, 2023
自动驾驶的进化取得了显著的进展,并成为了一个实际存在的现实。为了确保自动驾驶系统符合用户意图,准确辨别和解释用户指令尤其是在复杂或紧急情况下是至关重要的。为了实现这一目标,我们提出利用大型语言模型(LLMs)的推理能力,从车载用户的指令中推断系统需求。通过一系列实验,包括不同的 LLM 模型和提示设计,我们探索了通过自然语言文本指令从少量样本进行多元二值分类的精确度。我们确认 LLM 可以理解和推理提示,但强调其有效性取决于 LLM 模型的质量和适当的连续提示的设计。代码和模型可在以下链接找到:https://github.com/KTH-RPL/DriveCmd_LLM。
Nov, 2023
我们的研究引入了一个新的安全框架,利用多智能体大语言模型(LLMs)来保护自动驾驶车辆的敏感信息,同时确保 LLM 的输出符合驾驶规定和符合人类价值观。我们使用该框架评估了 11 个大语言模型驱动的自动驾驶提示的安全性、隐私性和成本方面,并对这些驾驶提示进行了问答测试,成功地证明了该框架的有效性。
Jun, 2024
自动驾驶技术是改变交通运输和城市流动性的催化剂,从基于规则的系统过渡到基于数据驱动的策略。该研究论文系统地回顾了大型语言模型在自动驾驶领域的应用,并评估了当前技术进展、主要挑战和未来方向。
Nov, 2023
通过定制化的大型语言模型 (LLM) 代理,采用提示工程、启发式推理和检索增强生成的元素,以保持结构化信息,我们提出了一种高效的混合策略,利用 LLM 进行安全分析和人工智能与人类的协同设计,以提高软件工程和安全工程中的生成式 AI 的质量要求,并确保人类对生成式 AI 提供的建议负责,通过图形表述作为系统模型的中间表示,促进了 LLM 和图形之间的交互,以简化的自动驾驶系统为案例说明了我们的方法。
Apr, 2024
通过利用大型语言模型(LLMs)的语言和推理能力,本研究提出了一个新的框架来增强自动驾驶车辆决策过程。通过在不同场景中进行试验和实时个性化示范,我们展示了利用 LLMs 能够改善驾驶决策、提供个性化驾驶体验并增强自动驾驶的安全和效果。
Oct, 2023
利用较小的大语言模型实现有害查询检测和安全响应,通过多任务学习机制融合两个任务到一个模型里,效果在公开的大语言模型上表现相当或超过有害查询检测和安全响应的性能。
May, 2024
利用大型语言模型(LLM)在自动驾驶中的相关能力进行定量研究,评估了 LLM 在空间识别、空间感知决策和遵守交通规则方面的准确性,并开发了一个使用 LLM 驾驶车辆的系统来验证其可行性。
Dec, 2023
研究表明,大型语言模型(LLMs)在自动驾驶场景中能够适应和应用算术和常识推理的组合,通过分析检测到的物体和传感器数据、理解驾驶法规和物理规律,并提供额外的上下文信息,从而改善自动驾驶车辆的制动和油门控制,以做出更准确的决策。
Feb, 2024