大型语言模型是否能理解 DL-Lite 本体？一项实证研究

Jun, 2024

大型语言模型是否能理解 DL-Lite 本体？一项实证研究

Can Large Language Models Understand DL-Lite Ontologies? An Empirical Study

Keyu Wang, Guilin Qi, Jiaqi Li, Songlin Zhai

TL;DR经验分析表明，大型语言模型可以理解 DL-Lite 本体论，但在处理具有大型 ABox 的本体论以及理解 TBox NI 传递性方面存在困难。

Abstract

large language models (LLMs) have shown significant achievements in solving a wide range of tasks. Recently, LLMs' capability to store, retrieve and infer with symbolic knowledge has drawn a great deal of attenti

large language models symbolic knowledge description logic ontologies dl-lite ontologies llm's capability

发现论文，激发创造

LLM 们幻想本体工具吗？

大型语言模型能够部分地记忆本体论概念，并且记忆程度与概念在网络上的普及程度成正比。本研究还提出了新的度量方法，通过测量在不同提示重复、查询语言和确定性程度下产生的输出的一致性来估计语言模型中本体论信息的记忆程度。

Jan, 2024

LLMs4OL：用于本体学习的大型语言模型

我们提出了 LLMs4OL 方法，利用大型语言模型（LLMs）进行本体学习（OL）。通过全面评估使用零训练样例提示方法，我们发现 LLMs 可以有效地应用其语言模式捕捉能力于 OL，该能力包括从自然语言文本中自动提取和结构化知识。评估涵盖了对三个主要的 OL 任务进行九种不同的 LLM 模型家族的评估，包括术语类型化，分类系统发现以及非分类关系的提取，并包含了 WordNet 中的词汇语义知识，GeoNames 中的地理知识以及 UMLS 中的医学知识等多种类型的本体知识。

Jul, 2023

本体蕴含推理的语言模型分析

研究表明，虽然预训练语言模型对于自然语言推理方面的知识有比较好的编码能力，但其对于本体论的推断需要更多的背景知识，而且在给定少量样本的情况下能够有效地进行推断。

Feb, 2023

通过问答探究语言模型对结构化语义理解和生成的能力

最近大规模语言模型能力的进步引发了对其评估的新浪潮，这篇研究工作通过在自然语言和形式语言之间的相互转换来验证大规模语言模型理解和生成结构化逻辑形式的能力，实验证明现今最先进的大规模语言模型在理解逻辑形式方面整体上接近人类水平，但在生成正确逻辑形式方面仍有改进的空间，使用大规模语言模型生成更自然的语言训练数据以增强小型模型的效果更好，同时结果还表明模型对不同形式语言表现出显著的敏感性，总体而言，形式化程度较低、更接近自然语言的形式语言对大规模语言模型更友好。

Jan, 2024

关于使用大型语言模型生成能力本体的研究

使用大型语言模型（LLMs）生成能力本体论，通过一系列试验以及不同提示技术和不同 LLMs 生成的能力来分析生成的本体论的质量

Apr, 2024

评估大型语言模型的推理能力

大型语言模型（LLMs）的发展促使人们对其推理和问题解决能力产生了更大的兴趣。本研究调查了几种 LLMs 是否能够解决认知科学文献中一种经典类型的演绎推理问题。研究发现，这些被测试的 LLMs 在传统形式上解决这些问题的能力有限。我们进行了后续实验，探究了更改展示格式和内容是否能改善模型性能。尽管我们发现了条件之间的绩效差异，但总体性能并未提高。此外，我们还发现性能与展示格式和内容以出人意料的方式相互作用，与人类表现有所不同。总的来说，我们的结果表明 LLMs 具有独特的推理偏见，其只能部分预测人类的推理表现。

Sep, 2023

大型语言模型理解逻辑还是仅仅模仿语境？

大型语言模型在逻辑推理和符号推理等复杂场景中表现出色，但其在理解逻辑规则上存在限制，本文通过反事实方法探讨了大型语言模型的推理能力，强调了加强机制以确保其可靠的逻辑推理的需求。

Feb, 2024

使用语言模型的学习界限

本文研究大语言模型在自然语言处理中的局限性，特别是无法学习一些基本语义属性，如语义蕴涵和一致性，以及不能学习超越 Borel 层次结构的概念，这对语言模型的语言理解能力产生了严重限制。

Jun, 2023

基于概念的大语言模型深度学习

本文讨论大型语言模型在概念导向深度学习方面的应用，以及利用多模态语言模型进行概念提取、图谱提取和概念学习等方面的研究。同时，本文认为，虽然 LLM 在概念导向深度学习方面的应用颇具价值，但作为人工智能聊天机器人的应用，它更具有实用价值。

Jun, 2023

探索大型语言模型作为机器人的常识知识来源

本研究使用大型语言模型（LLMs）研究了服务机器人需要常识知识帮助人类在日常情境中，以便他们理解其行为的上下文。实验揭示了在选择性提取情境行动知识方面的有限效果，表明单独使用 LLMs 可能不足够。然而，大规模提取一般性、可行性知识显示出潜力，表明 LLMs 可以成为有效创建机器人本体论的工具。该论文展示了知识提取技术可以应用于填充极简本体论，展示了 LLMs 与形式化知识表示的潜在合作能力。

Oct, 2023