大型语言模型（LLMs）在数学和算法任务中展现日益增长的能力，但它们的几何推理技能尚未被充分探索。我们研究了 LLMs 在构造性几何问题求解上的能力，这是人类数学推理发展中最基本的一步。我们的工作揭示了当前 LLMs 面临的显著挑战，尽管在类似领域取得了很多成功。LLMs 在目标变量选择上存在偏见，并且在二维空间关系方面遇到困难，常常误代和产生对象及其放置的幻觉。为此，我们介绍了一个基于 LLMs 的多智能体系统框架，通过进行内部对话来增强它们现有的推理潜力。这项工作突出了 LLMs 在几何推理中目前的局限性，并通过自我纠正、协作和多样化角色专业化来改善几何推理能力。

Feb, 2024

该研究使用构造的逻辑推理短句的语料库训练了一种递归模型，其使用的递归神经网络模型和相应的词向量表示已在各种越来越语义复杂的任务中实现成功，但几乎不知道它们是否能准确捕捉必要的语言意义方面。该模型学习到的表示形式在所有但少数情况下都很好地推广到新的推理模式，这一结果为掌握逻辑推理和学习表示模型的能力提供了希望。

Dec, 2013

通过启用预训练语言模型的深度神经网络，在系统 1 和系统 2 的理论支持下，实现了基于神经和符号处理的类比推理和逻辑推理，并在数值推理的两种自然语言理解任务中显著优于现有的最先进方法。

Mar, 2022

通过对大型语言模型（LLMs）的几何理解，我们探索了大型语言模型（LLMs）的推理能力，建立了 LLMs 的表达能力和自注意力图的密度之间的联系，通过理论分析和玩具示例证明了更高的内在维度意味着更大的 LLM 表达能力，并提供了将几何框架与增强 LLM 推理能力方法中的最新进展相联系的经验证据。

Jul, 2024

本文介绍了如何利用动态神经网络结构和基本逻辑操作，将深度学习和逻辑推理相结合，提出了名为 LINN 的模型，以推理方式解决推荐系统的问题，并在理论和实践任务中都取得了显著的性能提升。

Aug, 2020

定性空间推理是常识推理领域的一个广泛研究领域，应用范围从地理信息系统到机器人和计算机视觉。本文研究了某个大型语言模型在经典的定性空间推理任务上的能力，并以 RCC-8 为例进行研究。

Sep, 2023

本文开发了一个框架来描述神经网络适用于哪些推理任务，并利用算法结构与相关推理过程的匹配程度推导了样本复杂度的界限，以解释一些模型在实践中的成功以及他们的局限性。

May, 2019

本文介绍了一种名为 Logic Tensor Networks（LTN）的神经符号形式和计算模型，支持通过引入一种称为 Real Logic 的可微分一阶逻辑表示语言进行学习和推理，并说明 LTN 提供了一种统一语言来规范和计算多个人工智能任务。

Dec, 2020

本研究采用最新的深度神经网络训练方法，成功开发出了一种模型，可以学会在基本本体论推理的形式下有效地进行逻辑推理，进而可以应用于许多现实世界中的问题，并且在各项实验中表现出高度准确和生物学上的可行性。

Aug, 2018

本文介绍了一种新颖的框架 Relational Neural Machines，它可以对学习器的参数和基于一阶逻辑的推理器进行联合训练，下面将介绍其在大规模关系任务中的可行性和良好效果。

Feb, 2020