基于神经网络的推理
Neural Entity Reasoner (NE-Reasoner) framework uses symbolic memory and specific interaction-pooling mechanism to introduce global consistency of recognized entities into Neural Reasoner over Named Entity Recognition (NER) task, and can accommodate ambiguous words and rare name entities to outperform conventional NER models in most cases on both English and Chinese NER datasets.
Sep, 2018
本研究采用最新的深度神经网络训练方法,成功开发出了一种模型,可以学会在基本本体论推理的形式下有效地进行逻辑推理,进而可以应用于许多现实世界中的问题,并且在各项实验中表现出高度准确和生物学上的可行性。
Aug, 2018
本文介绍了一种新颖的框架 Relational Neural Machines,它可以对学习器的参数和基于一阶逻辑的推理器进行联合训练,下面将介绍其在大规模关系任务中的可行性和良好效果。
Feb, 2020
本论文致力于将符号逻辑推理的多步骤推理与神经网络的概括功能相结合。在文本和大型知识库中对实体和关系进行复杂推理。提出了三种重要的建模方法:(1)学习联合推理关系(2)使用神经注意力建模多个路径(3)学习在单个 RNN 中共享强度,使用我们的方法在实验任务中实现了 25%的错误率降低,推理中的错误率降低了 84%。
Jul, 2016
本文介绍了如何利用动态神经网络结构和基本逻辑操作,将深度学习和逻辑推理相结合,提出了名为 LINN 的模型,以推理方式解决推荐系统的问题,并在理论和实践任务中都取得了显著的性能提升。
Aug, 2020
通过启用预训练语言模型的深度神经网络,在系统 1 和系统 2 的理论支持下,实现了基于神经和符号处理的类比推理和逻辑推理,并在数值推理的两种自然语言理解任务中显著优于现有的最先进方法。
Mar, 2022
本文研究使用深度学习技术回答多步推理问题的方法,该方法基于自然语言问句生成机器可理解的逻辑形式,使用字符和单词 CNN 同时嵌入逻辑形式和问句,并使用神经评分函数检索问题的最可能逻辑形式,取得 38.7% 的最佳性能。
Feb, 2017
人工智能研究半个世纪以来一直试图复制人类的抽象和推理能力,创造出可以从一小组示例中学习新概念的计算机系统,在人类轻松掌握的情境下进行。然而,尽管特定神经网络能够解决一系列问题,但对于训练数据之外的广泛泛化,仍然是个难题。本文提出了几种新颖的解决方法,用于解决抽象与推理语料库 (ARC) 的问题。尽管竞赛的最佳算法仍然无法解决大多数 ARC 任务,并且依赖于复杂的手工规则,而不使用机器学习。我们重新审视了神经网络领域的最新进展是否能够在这个任务上取得进展,并提出了适应 ARC 的 DreamCoder 神经符号推理求解器。DreamCoder 自动编写特定领域的语言程序进行推理,并使用神经网络模拟人类直觉。我们提出了感知抽象与推理语言 (PeARL) 语言,使 DreamCoder 能够解决 ARC 任务,并提出了一种新的识别模型,显著改进了之前的最佳实现。我们还提出了一种新的编码和增强方案,使大语言模型 (LLMs) 能够解决 ARC 任务,并发现最大的模型可以解决一些 ARC 任务。LLMs 能够解决一组不同于现有解算器的问题,并为其他方法提供了一种有趣的补充方式。我们进行了集成分析,将模型结合起来以取得比任何单独系统更好的结果。最后,我们发布了 arckit Python 库,使未来对 ARC 的研究更加容易。
Feb, 2024