May, 2024

ChatSOS：增强安全工程的矢量数据库生成问答助手

PDF
TL;DR通过开发一个向量数据库，该研究证明外部数据库对大型语言模型具有补充作用，提高了可靠性、准确性和全面性，并改善了回答的适应性和解释能力，展示了大型语言模型在安全工程中处理专业问题的潜力，为更广泛的应用奠定了基础。
natural language processinggenerative artificial intelligencelarge language modelsexplosion accident reportssafety engineering
发现论文，激发创造
  • ChatSOS: 基于 LLM 的安全工程知识问答系统

    我们的研究通过引入以 LLM 为基础的问答系统，结合外部知识数据库，提高了模型的理解和响应准确性，有效地总结事故报告并提供相关建议，从而将 LLM 的应用拓展到安全工程领域，并为自动化智能系统的未来发展树立了先例。

    Dec, 2023

  • Chat Vector：为语言模型赋予新的语言聊天能力的简易方法

    使用聊天向量 (chat vector) 和计算上高效的方法，将对话模型 (ChatGPT) 与人类偏好对齐，展示了对非英语语言特别是中文的适应性及高效性。

    Oct, 2023

  • 大型语言模型与向量数据库相遇：一份调查

    大语言模型与向量数据库之间的交叉点进行了深入和独特的分析。

    Jan, 2024

  • 概念引导的 LLM 代理用于人工智能安全共设

    通过定制化的大型语言模型 (LLM) 代理，采用提示工程、启发式推理和检索增强生成的元素，以保持结构化信息，我们提出了一种高效的混合策略，利用 LLM 进行安全分析和人工智能与人类的协同设计，以提高软件工程和安全工程中的生成式 AI 的质量要求，并确保人类对生成式 AI 提供的建议负责，通过图形表述作为系统模型的中间表示，促进了 LLM 和图形之间的交互，以简化的自动驾驶系统为案例说明了我们的方法。

    Apr, 2024

  • 填补药物安全数据分析的空白：基于大型语言模型的 SQL 查询生成

    利用 OpenAI 的 GPT-4 开发的聊天机器人应用，通过自然语言生成结构化查询语言（SQL）查询，从而实现非技术用户对数据库的访问，拓宽了数据的使用范围，提升了决策效率，促进各种数据密集型领域的药物安全和决策制定。

    Jun, 2024

  • 利用文本嵌入模型和向量数据库作为文本分类器的例子 —— 以医疗数据为例

    利用大语言模型、向量嵌入模型和向量数据库来分类医生的病例笔记，以了解这些方法的局限性和未来潜在应用的前景。

    Feb, 2024

  • SLM 作为守护者：先驱性地利用小型语言模型进行人工智能安全

    利用较小的大语言模型实现有害查询检测和安全响应，通过多任务学习机制融合两个任务到一个模型里，效果在公开的大语言模型上表现相当或超过有害查询检测和安全响应的性能。

    May, 2024

  • HuixiangDou: 基于 LLM 技术的克服群聊场景的技术协助

    本研究提出了一种由大型语言模型（LLM）驱动的技术助手 ——HuixiangDou。该系统旨在通过为与开源算法项目相关的问题提供深入的回答来帮助算法开发人员，例如来自 OpenMMLab 的计算机视觉和深度学习项目。我们进一步探索了将该助手集成到即时通讯工具（如微信和 Lark）的群聊中的方法。通过多次迭代的改进和试验，我们开发了一种复杂的技术聊天助手，能够有效地回答用户的技术问题而不会引起消息泛滥。本文的贡献包括：1）为群聊场景设计了一种算法流程；2）验证了 text2vec 在任务拒绝方面的可靠性表现；3）确定了技术助手类产品中 LLMs 的三个关键要求，即得分能力、上下文学习和长时间上下文。我们已经将软件和源代码发布在此 https URL 上，以便未来的研究和应用。HuixiangDou 适用于即时通讯工具中的任何群聊。

    Jan, 2024

  • 嵌入式科学领域聊天机器人

    本文研究了如何将已有方法与软件工具组合使用以制作出针对某一特定领域的聊天机器人，采用文本嵌入查找来为大型语言模型提供该领域的上下文信息，同样证实了现有的图像嵌入方法可以用于跨出版物进行搜索和检索。

    Jun, 2023

  • LLM 辅助危机管理：创建先进的 LLM 平台以实现有效的应急响应和公共协作

    通过使用开放源代码的大型语言模型 LLAMA2，我们介绍了一种新的方法来从社交媒体帖子和直接应急信息中识别和分类紧急情况，旨在利用自然语言处理和机器学习的力量，为公共安全通信员和大规模人群在全国范围内的紧急情况提供帮助，并开发了一种语言模型，使其能够理解用户在 911 呼叫中描述的情况，使 LLAMA2 能够分析内容并向通信员提供相关指示，并在必要时创建工作流程以通知政府机构与呼叫者信息。这种语言模型的另一个好处是在 911 系统不堪重负时能够帮助用户提供简单的指导并向相关部门提供其位置和紧急信息。

    Jan, 2024