Apr, 2024

概念引导的 LLM 代理用于人工智能安全共设

PDF
TL;DR通过定制化的大型语言模型 (LLM) 代理，采用提示工程、启发式推理和检索增强生成的元素，以保持结构化信息，我们提出了一种高效的混合策略，利用 LLM 进行安全分析和人工智能与人类的协同设计，以提高软件工程和安全工程中的生成式 AI 的质量要求，并确保人类对生成式 AI 提供的建议负责，通过图形表述作为系统模型的中间表示，促进了 LLM 和图形之间的交互，以简化的自动驾驶系统为案例说明了我们的方法。
generative aisoftware engineeringsafety engineeringlarge language models (llms)human-ai codesign
发现论文，激发创造
  • SLM 作为守护者：先驱性地利用小型语言模型进行人工智能安全

    利用较小的大语言模型实现有害查询检测和安全响应，通过多任务学习机制融合两个任务到一个模型里，效果在公开的大语言模型上表现相当或超过有害查询检测和安全响应的性能。

    May, 2024

  • LLM 风险与 AI 防护栏的现状

    大型语言模型 (LLMs) 的部署与安全性及可靠性密切相关，然而它们在引入的同时也伴随着固有的风险，包括偏见、潜在的不安全行为、数据集污染、不可解释性、幻觉和非可重复性，为了避免潜在的危害，本研究探讨了部署 LLMs 所面临的风险，并评估了目前实施防护和模型对齐技术的方法，从固有和外在偏见评估方法入手，并讨论了公平度度量方法，还探讨了能够进行现实世界行为的主动型 LLMs 的安全性和可靠性，强调了可测试性、故障保护和情境意识的需求，还提出了保护 LLMs 的技术策略，包括操作在外部、次要和内部层次的分层保护模型，突出系统提示、检索增强生成 (RAG) 架构以及最小化偏见和保护隐私的技术，有效的防护设计要求深入理解 LLMs 的预期用例、相关法规和伦理因素，在精确性和隐私等竞争需求之间取得平衡仍然是一个持续挑战，本研究强调了持续研究和开发的重要性，以确保 LLMs 在实际应用中的安全和负责任使用。

    Jun, 2024

  • 大语言模型自动驾驶的安全要求工程化

    基于大型语言模型的原型管道可以在每次更新后自动细化和分解需求，还能对需求数据集进行审查，找出冗余或矛盾的需求，该研究通过多个迭代的设计科学，让不同公司的专家从定量和定性两个方面评估每个周期，最终在一个案例公司中实施了原型，并由负责团队评估其效率。

    Mar, 2024

  • 以 LLMs 支持用户命令推理的面向人类的自主系统

    自动驾驶的进化取得了显著的进展，并成为了一个实际存在的现实。为了确保自动驾驶系统符合用户意图，准确辨别和解释用户指令尤其是在复杂或紧急情况下是至关重要的。为了实现这一目标，我们提出利用大型语言模型（LLMs）的推理能力，从车载用户的指令中推断系统需求。通过一系列实验，包括不同的 LLM 模型和提示设计，我们探索了通过自然语言文本指令从少量样本进行多元二值分类的精确度。我们确认 LLM 可以理解和推理提示，但强调其有效性取决于 LLM 模型的质量和适当的连续提示的设计。代码和模型可在以下链接找到：https://github.com/KTH-RPL/DriveCmd_LLM。

    Nov, 2023

  • 利用大型语言模型赋能自动驾驶：一个安全的角度

    自动驾驶面临重要的挑战：公众信任问题和长尾未知驾驶场景的安全担 忧。为解决这个问题，本文提倡在自动驾驶系统中整合大型语言模型，充分利用其强大的常识知识、推理能力和人机交互能力，将其作为智能决策者来提升整体自动驾驶性能和安全性。本文展示了两个案例研究的结果，证实了我们方法的有效性。此外，我们还讨论了将大型语言模型整合到其他自动驾驶软件组件 (包括感知、预测和仿真) 的潜在优势。尽管在案例研究中面临挑战，但大型语言模型的整合对于加强自动驾驶的安全性和性能具有潜在的希望和益处。

    Nov, 2023

  • ChatSOS: 基于 LLM 的安全工程知识问答系统

    我们的研究通过引入以 LLM 为基础的问答系统，结合外部知识数据库，提高了模型的理解和响应准确性，有效地总结事故报告并提供相关建议，从而将 LLM 的应用拓展到安全工程领域，并为自动化智能系统的未来发展树立了先例。

    Dec, 2023

  • 安全芯片插入：强制 LLM 驱动的机器人代理遵守限制

    利用大型语言模型（LLM）所提供的世界知识和普遍推理能力，我们提出了一种基于线性时态逻辑（LTL）的可查询安全约束模块，用于在协作环境中部署 LLM 代理，并通过自然语言到时态约束编码、安全违规推理、不安全行为修剪等功能，实现了显式指示禁止行为、评估机器人对限制的理解，并确保其合规性。实验证明我们的系统可以严格遵守安全约束并能很好地适用于复杂的安全约束，具备实际应用潜力。

    Sep, 2023

  • 大型语言模型与用户界面相遇：反馈供应案例

    将生成式 AI（GenAI）和大型语言模型（LLMs）应用于教育可以提高教学效率，丰富学生学习。使用当前的 LLM 涉及到会话式用户界面（CUIs）用于生成材料或提供反馈，但这带来了教育者在 AI 和 CUI 领域的专业知识需求、高风险决策的道德问题以及隐私风险。为了解决这些问题，我们建议从 CUIs 过渡到通过 API 调用利用 LLMs 的用户友好应用程序。我们提出了一个将 GenAI 道德地融入教育工具的框架，并展示了其在我们的工具 Feedback Copilot 中的应用，该工具为学生作业提供个性化反馈。我们的评估结果显示了这种方法的有效性，对 GenAI 研究人员、教育者和技术人员具有重要意义。这项工作为教育中的 GenAI 未来制定了一条路线。

    Apr, 2024

  • 从语言模型到实用的自我改进计算机代理

    我们开发了一种简单直接的方法，可以创建能够执行多种计算机任务并通过开发工具和扩展自身能力来自我改进的 AI 计算机代理。

    Apr, 2024

  • 从生成智能到可信智能的过渡：大型语言模型可以从 Cyc 中学到什么

    生成型 AI 是当前最流行的 AI 方法之一，它包括大型语言模型（LLM），这些模型被训练成可以生成看似正确但不一定准确的输出。然而，它们在推理方面存在不足，导致 LLMs 的可靠性不完全。此研究提出了一种替代 AI 方法，通过使用明确的知识和经验规则对 AI 进行教育，从而使推理引擎能够自动推导出所有知识的逻辑蕴涵关系；该方法能够得到可信且可解释的结果。然而，使用高阶逻辑的推理引擎速度较慢，因此需要采用某种快速但表达能力较低的逻辑，如知识图谱。该研究还提出了将 LLM 方法与更正式的方法相结合的思路，以实现可信的综合型 AI。

    Jul, 2023