探索端到端可微的自然逻辑建模

Nov, 2020

Exploring End-to-End Differentiable Natural Logic Modeling

Yufei Feng, Zi'ou Zheng, Quan Liu, Michael Greenspan, Xiaodan Zhu

TL;DR我们提出了一种基于自然逻辑的神经网络模型，该模型使用模块网络模拟自然逻辑操作，并使用内存组件模拟上下文信息以有效建模单调性推理和聚合。实验表明，该模型可以有效地建模单调性推理，因此在聚合时得到更好的性能。

Abstract

We explore end-to-end trained differentiable models that integrate natural logic with neural networks, aiming to keep the backbone of natural language reasoning based on the natural logic formalism while introduc

natural logic neural networks module networks monotonicity-based reasoning aggregation

发现论文，激发创造

具有内省修正的神经符号自然逻辑用于自然语言推理

本文介绍了一个基于强化学习和内省修订的神经符号自然逻辑框架，通过策略梯度对特定推断路径进行采样和奖励，并利用外部知识缓解虚假推理和训练低效问题。该模型具有内在的可解释性，在单调性推理、系统泛化和可解释性方面表现出优越能力，相对于先前的模型在现有数据集上表现更好。

Mar, 2022

逻辑神经网络

我们提出了一种新的框架，无缝提供神经网络（学习）和符号逻辑（知识和推理）的关键属性，每个神经元都有权重实值逻辑公式的组成部分，得到了高度可解释的分离表示，推理是全向的而不是集中在预定义的目标变量上，对应于逻辑推理，包括经典的一阶逻辑定理证明作为特殊情况。

Jun, 2020

DeepLogic: 基于端到端可微分的逻辑推理

探索如何使用基于 RNN 的迭代神经网络将符号逻辑定义为字符级逻辑程序，使其在高维向量空间中学习推理，进一步分析学习推理算法如何产生逻辑程序中的原子、文字和规则表示，并针对谓词和常量符号的长度以及多次跳跃推理的步数进行评估。

May, 2018

端到端可微证明

本文提出了一种基于神经网络和不同 iable proving 技术的知识库查询方法，通过将符号的向量表示进行不同 iable 计算来替代符号集合，从而在神经网络中结合了符号推理和学习。此结构能训练出神经网络，以便推理出给定不完整知识库中的事实，并使用提供的和引导的逻辑规则进行多跳推理。该结构在多项基准知识库测试中表现出色，并诱导解释性函数无关的一阶逻辑规则。

May, 2017

深度逻辑模型的学习与推理集成

该研究提出了深度逻辑模型理论，并将深度学习与概率逻辑推理相结合，以实现智能代理的发展。实验结果表明，该方法优于其他深度学习和推理方法的限制。

Jan, 2019

NeuralLog: 使用联合神经和逻辑推理的自然语言推理

提出了一个融合符号与深度学习方法的推理框架 NeuralLog，通过结合单调性逻辑推理引擎和神经网络语言模型进行短语对齐，并使用 beam search 算法解决 NLI 任务，实验证明该联合推理系统在 NLI 任务上提高了准确性，并可在 SICK 和 MED 数据集上实现最先进的准确性。

May, 2021

学习自然逻辑推理的分布式词表示

研究了两种基于神经网络学习嵌入的模型，试图支持自然逻辑所捕捉的丰富、多样的逻辑推理。实验结果表明，学习分布式表示在逻辑语义应用建模方面具有积极的前景。

Oct, 2014

深度神经网络本体推理

本研究采用最新的深度神经网络训练方法，成功开发出了一种模型，可以学会在基本本体论推理的形式下有效地进行逻辑推理，进而可以应用于许多现实世界中的问题，并且在各项实验中表现出高度准确和生物学上的可行性。

Aug, 2018

神经逻辑推理

本文介绍了如何利用动态神经网络结构和基本逻辑操作，将深度学习和逻辑推理相结合，提出了名为 LINN 的模型，以推理方式解决推荐系统的问题，并在理论和实践任务中都取得了显著的性能提升。

Aug, 2020

神经网络理解单调性推理吗？

本文介绍了 Monotonicity Entailment Dataset (MED)，并研究了最先进的 NLI 模型在该测试集上的表现。结果表明，这些模型的表现相当差，特别是在向下推理方面，并且数据增强方法显示这些模型的向上和向下推理的泛化能力受到限制。

Jun, 2019