本文针对神经符号预测模型的推理快捷方式进行了系统表征，并鉴定了其发生的四个关键条件，提出了多种自然化缓解策略，并从理论和经验上分析了它们的功效，揭示了推理快捷方式的处理难度以及可能对现有神经符号解决方案的可靠性和可解释性产生质疑。

May, 2023

该论文探讨如何利用神经符号方法求解具有约束条件的优化问题，为此提出一种计算约束条件之间的互信息的方法，并在三个任务中进行了测试，证明了该方法在提高性能的同时，避免了计算上的复杂性。

Feb, 2023

通过确保神经符号模型意识到其所学概念的语义歧义，从而使用户能够识别并不信任低质量的概念，从而不降低预测准确性，我们提出了一种名为 BEARS（BE Aware of Reasoning Shortcuts）的合奏技术，该技术校准了模型在概念层面的置信度，提高了对 RS 的感知能力，也有助于获取有信息量的密集注释以用于缓解目的。

Feb, 2024

通过分解中间推理步骤及连接策略，研究并因素化生成中间步骤的益处，结果表明任选的推理策略显著影响性能，而通过某些配置，即使在长度外推的情况下，表现也接近完美，提高神经推理模型的有效策略具有重要性。

Feb, 2023

通过使用神经符号技术对语言模型进行培训，可以利用推理的逻辑规则作为约束，并为模型提供额外的监督来源，以弥补由于无法达到所需的抽象水平而在未观察到的复杂输入组合中难以提供解决方案的问题。我们聚焦于文本上的空间推理这一具有挑战性的问题，通过在多个语言模型上的多个基准测试中的结果验证了基于神经符号训练的有效领域转移假设。

Jun, 2024

我们介绍了一种神经符号连续学习的方法，其中模型必须解决一系列神经符号任务，即它必须将子符号输入映射到高级概念，并通过符合先前知识的推理计算预测。我们提出了 COOL，一种面向神经符号连续问题的概念级连续学习策略，并在三个新的基准测试中进行了实验，这表明 COOL 在其他策略失败的神经符号连续学习任务上具有持续的高性能。

Feb, 2023

通过使用超出分布数据的方法，我们提出了一种识别快速推理的新方法，该方法不仅可以量化快速推理的严重程度，还不需要假设触发快速推理的令牌类型。我们在自然语言推理和情感分析方面的实验中成功地发现了之前研究中已知和未知的快速推理。

Dec, 2023

本研究的主要目标是使用预先训练的语言模型来进行推理，特别是在推理时使用解释以增强上下文学习。作者将神经符号方法重新引入到这个任务中，并将语言模型作为逻辑程序员，以在知识库中迭代推理。实验结果表明，相对于上下文学习策略， LMLP 在演绎和长度归纳基准测试中表现得更加优秀。

Dec, 2022

通过神经符号一体化方法，结合 LLMs 和符号求解器，实现了确定性执行性质的推理证明，提高了准确性和证明相似度。

Nov, 2023

深度学习在自然语言处理 (NLP) 任务中取得了显著进展，本研究提出了一种神经符号学习方法，将符号主义和连接主义两种人工智能学派相结合，通过强化学习或其弱化版本在下游任务中实现具有符号潜在结构的神经系统的弱监督推理。该框架已成功应用于表格查询推理、句法结构推理、信息抽取推理和规则推理等各种任务。

Sep, 2023