基于神经符号方法的弱监督推理

Sep, 2023

Weakly Supervised Reasoning by Neuro-Symbolic Approaches

Xianggen Liu, Zhengdong Lu, Lili Mou

TL;DR深度学习在自然语言处理 (NLP) 任务中取得了显著进展，本研究提出了一种神经符号学习方法，将符号主义和连接主义两种人工智能学派相结合，通过强化学习或其弱化版本在下游任务中实现具有符号潜在结构的神经系统的弱监督推理。该框架已成功应用于表格查询推理、句法结构推理、信息抽取推理和规则推理等各种任务。

Abstract

deep learning has largely improved the performance of various natural language processing (nlp) tasks. However, most deep learning models

deep learning neuro-symbolic approaches nlp reinforcement learning weakly supervised reasoning

发现论文，激发创造

神经符号人工智能在自然语言处理方面是否兑现其承诺？一项结构化综述

通过研究关于 Neuro-Symbolic 人工智能（NeSy）在自然语言处理中的应用，发现将逻辑编译到神经网络中的系统能够实现最佳的 NeSy 目标，呼吁更加系统化的方法和适当的基准测试用于理解该领域的发展。

Feb, 2022

一种新的统计关系学习下的神经符号系统

提出了一种名为 GBPGR 的广义双层概率图推理框架，通过使用统计关系学习启发式地集成了深度学习模型和符号推理，以解决当前人工智能领域中深度学习和符号推理相结合的方法在组合方式、泛化性和可解释性方面的局限性，并通过大量实验证明了该方法在转导和归纳任务中实现了高性能和有效的泛化能力。

Sep, 2023

图结构推理的神经符号人工智能：综述

这篇论文调查了在图结构上执行神经符号推理任务的广泛方法，并提出了一个新的分类法来比较这些方法，包括基于逻辑推理嵌入方法、施加逻辑约束的嵌入方法和规则学习方法。此外，还提供了一个表格概述这些方法。

Feb, 2023

一种神经符号化方法用于自然语言理解

通过启用预训练语言模型的深度神经网络，在系统 1 和系统 2 的理论支持下，实现了基于神经和符号处理的类比推理和逻辑推理，并在数值推理的两种自然语言理解任务中显著优于现有的最先进方法。

Mar, 2022

神经符号学习系统中的优化

神经符号 AI 旨在将深度学习与符号 AI 相结合，以减少训练神经网络所需的数据量，提高模型给出答案的可解释性和可解性，并验证经过训练的系统的正确性。我们研究神经符号学习，既有使用符号语言表示的数据，也有背景知识。通过模糊推理、概率推理以及训练神经网络来连接符号和神经组件，以交流这一知识。

Jan, 2024

超越传统神经网络：通过计算逻辑技术实现推理与学习能力的增加

提出了改善知识注入过程、将机器学习和逻辑融入多智能体系统的解决方案。

Aug, 2023

简单有效的神经符号融合的转移学习

深度学习与神经符号整合是解决深度学习普适性和推理任务的挑战，通过预训练神经模型并通过迁移学习注入感知部分的权重，可以改善当前神经符号方法中的收敛速度、复杂感知任务的学习难度和局部最小值问题。

Feb, 2024

利用逻辑背景知识改进基于神经网络的分类

我们提出了一种新的用于有命题背景知识的监督多标签分类的形式化方法，称为推理中的语义调整，其在推理过程中限制系统而不影响训练，相比于另外两种常见的神经符号技术（语义调整和语义正则化），我们讨论了其在理论和实际上的优势，并开发了一种新的多尺度方法来评估神经符号技术的好处随着网络规模的演化，通过对多个数据集的实验和比较，我们的结果表明，推理中的语义调整可以用于构建更准确的基于神经网络的系统，使用更少的资源，并确保输出的语义一致性。

Feb, 2024

机器学习与符号方法的协同：自然语言处理中混合方法的综述

综述了机器学习和符号方法在自然语言处理中的缺点和优势以及其通过混合方法的桥梁作用，讨论了混合方法在需要自然语言理解、生成和推理的广泛领域的最新研究，同时探讨了现有资源和面临的挑战，并提出了未来方向的路线图。

Jan, 2024

神经符号 AI：第三波

本文探讨了神经符号计算技术中深度学习和知识表示应该如何有机结合，通过 20 年来的相关研究结果，为下一个 AI 系统的关键性成分做出探索，以神经符号系统的视角提出 AI 技术应该在信任、安全、可解释性和问责制方面有所提升和解决的方向和挑战。

Dec, 2020