ChatSOS: 基于 LLM 的安全工程知识问答系统
通过开发一个向量数据库,该研究证明外部数据库对大型语言模型具有补充作用,提高了可靠性、准确性和全面性,并改善了回答的适应性和解释能力,展示了大型语言模型在安全工程中处理专业问题的潜力,为更广泛的应用奠定了基础。
May, 2024
利用较小的大语言模型实现有害查询检测和安全响应,通过多任务学习机制融合两个任务到一个模型里,效果在公开的大语言模型上表现相当或超过有害查询检测和安全响应的性能。
May, 2024
该研究主要探讨了大型语言模型在过程挖掘中的应用,以增强对话代理的能力,并改进了现有解决方案的许多问题,提高了可访问性和代理性能。通过实验验证了该框架在公共问题和数据集上的效果,为进一步探索大型语言模型在过程挖掘中的作用奠定了基础,并提出了改进大型语言模型记忆、实时用户测试和研究多样化数据集的建议。
Jul, 2023
大型语言模型在最近几年取得了迅猛的进展,其能力正在不断加速,通过各种基准测试,其能力接近于人类的水平。由于存在未解决的脆弱性和限制,人们在将这些模型应用于智能和安全关键应用之前需要谨慎。本文回顾了与 LLM 评估和脆弱性相关的最新文献,综合当前的研究进展,并帮助了解哪些进步对于在智能和安全关键应用中使用这些技术最为关键。这些脆弱性被分为十个高级类别,并与 LLM 的一个高级生命周期进行了叠加。还对一些常见的缓解措施进行了综述。
Dec, 2023
通过定制化的大型语言模型 (LLM) 代理,采用提示工程、启发式推理和检索增强生成的元素,以保持结构化信息,我们提出了一种高效的混合策略,利用 LLM 进行安全分析和人工智能与人类的协同设计,以提高软件工程和安全工程中的生成式 AI 的质量要求,并确保人类对生成式 AI 提供的建议负责,通过图形表述作为系统模型的中间表示,促进了 LLM 和图形之间的交互,以简化的自动驾驶系统为案例说明了我们的方法。
Apr, 2024
通过使用开放源代码的大型语言模型 LLAMA2,我们介绍了一种新的方法来从社交媒体帖子和直接应急信息中识别和分类紧急情况,旨在利用自然语言处理和机器学习的力量,为公共安全通信员和大规模人群在全国范围内的紧急情况提供帮助,并开发了一种语言模型,使其能够理解用户在 911 呼叫中描述的情况,使 LLAMA2 能够分析内容并向通信员提供相关指示,并在必要时创建工作流程以通知政府机构与呼叫者信息。这种语言模型的另一个好处是在 911 系统不堪重负时能够帮助用户提供简单的指导并向相关部门提供其位置和紧急信息。
Jan, 2024
基于大型语言模型的原型管道可以在每次更新后自动细化和分解需求,还能对需求数据集进行审查,找出冗余或矛盾的需求,该研究通过多个迭代的设计科学,让不同公司的专家从定量和定性两个方面评估每个周期,最终在一个案例公司中实施了原型,并由负责团队评估其效率。
Mar, 2024
本文研究了如何将已有方法与软件工具组合使用以制作出针对某一特定领域的聊天机器人,采用文本嵌入查找来为大型语言模型提供该领域的上下文信息,同样证实了现有的图像嵌入方法可以用于跨出版物进行搜索和检索。
Jun, 2023
人工智能和大型语言模型的进步正在给法律领域的自然语言处理任务带来深刻的转变。大型语言模型在法律部门展示出越来越多独特的优势和各种挑战。本调查研究了大型语言模型与法律系统之间的协同作用,例如在法律文本理解、案例检索和分析等任务中的应用。此外,该调查还突出了大型语言模型在法律领域面临的关键挑战,包括偏见、可解释性和道德考虑,以及研究人员如何解决这些问题。调查展示了针对不同法律体系量身定制的最新进展,以及用于各种语言的大型语言模型微调的法律数据集。此外,它提出了未来研究和发展的方向。
Apr, 2024
本文介绍了如何将大型语言模型 LLMS 应用于法律领域,对应用于法律任务的不同方法进行了讨论,并探讨了使用 LLMS 所引发的隐私、偏见等法律问题,提出了数据资源领域学习上下文中的一些潜在方向。希望为当前 LLMS 的法律应用现状提供概述,同时强调其集成的潜在益处和挑战。
Mar, 2023