通过使用抽象概念的方法，建立了一个可适用于人类常识推理的抽象通识知识图谱，并通过基于语言特征的启发式规则和神经模型计算与验证其抽象知识的有效性。

Jun, 2022

我们提出了一个新的概念化框架，迫使模型在抽象问题上进行概念推理并在可验证的符号空间中生成解决方案，使用这个框架作为分析工具，我们发现现有的大型语言模型在概念推理方面存在不足，并通过引入可信的归纳信号来改善模型的概念推理性能，实验证明我们提出的技术使模型的概念推理性能提高了 8% 至 11%，实现了一个更强大的推理系统，更少地依赖归纳偏见。

Mar, 2024

对 LLMs 的事件推理能力进行了综合评估，发现 LLMs 在事件推理方面的表现仍然不尽如人意。通过发现 LLMs 对事件推理能力存在的不平衡，提出了两种方法来指导 LLMs 利用事件模式知识，并获得了改进。

Apr, 2024

本研究提出 CREPE 作为第一个事件因果推理和实体状态的基准测试，并在其中发现大多数语言模型表现低迷，但通过将事件表示为编程语言，并在表示中注入实体和事件之间的因果关系，提高了模型的性能。

Jan, 2023

本文研究事件涵义的模型，通过探讨其对物理属性的理解能力来预测实体状态变化。作者发现，传统的大型语言模型无法很好地理解这方面的知识；而通过适当的提示方式，它们的性能可以得到极大的提升，尤其是对于未知的属性或数据信息不足的情况。

Nov, 2022

研究使用实体类型抽象在预训练的转换器中的效用，并在四个需要不同形式逻辑推理的自然语言处理任务上测试这些方法：(1) 基于文本关系推理的组合语言理解 (CLUTRR)，(2) 异化推理 (ProofWriter)，(3) 多跳问题回答 (HotpotQA) 和 (4) 对话问题回答 (CoQA)。我们提出并实证探讨了三种添加这种抽象的方法：(i) 作为额外的输入嵌入，(ii) 作为单独的序列来编码，(iii) 作为模型的辅助预测任务。总的来说，我们的分析表明，具有实体抽象知识的模型比没有它的模型表现得更好。最佳的抽象感知模型在 CLUTRR 和 ProofWriter 上实现了 88.8% 和 91.8% 的总体准确性，而基线模型分别实现了 62.9% 和 89.8%。然而，对于 HotpotQA 和 CoQA，我们发现 F1 得分平均只提高了 0.5%。我们的结果表明，显式抽象的好处在形式上定义了需要多种推理跳数的逻辑推理设置中是显著的，但指向了这种抽象在较少准确逻辑结构的 NLP 任务中益处较小的概念。

Jan, 2022

CAT 是一种语境化的概念归纳和实例化的半监督学习框架，可大规模概念化常识知识库，并通过实验证明，其获得的抽象常识知识可以显著提高常识推理建模的准确性。

May, 2023

通过将自由文本与事件中心知识图关联，本研究提出了一个综合框架 EventGround，旨在解决上下文化叙事推理的问题，并通过基于图神经网络和大型语言模型的图推理模型，在取得了最新成果的同时提供可解释性证据。

Mar, 2024

大型语言模型在抽象推理任务上表现优秀，但与人类推理问题存在相似的缺陷，同时受到人类知识和信仰的影响，使用可信的现实情境方案进行推理可以提高推理质量，这种关联性帮助我们了解认知效应和语言模型表现的因素。

Jul, 2022

本文提出了一种基于概念的评估方法，通过探究一个系统在多个实例中应用给定概念的能力来评估。作者以 RAVEN 和 ARC 为例进行了案例研究。研究发现，这种基于概念的评估方法揭示了传统测试集所隐藏的 AI 系统的信息。

Jun, 2022