IJCAIFeb, 2024

利用逻辑背景知识改进基于神经网络的分类

PDF
TL;DR我们提出了一种新的用于有命题背景知识的监督多标签分类的形式化方法，称为推理中的语义调整，其在推理过程中限制系统而不影响训练，相比于另外两种常见的神经符号技术（语义调整和语义正则化），我们讨论了其在理论和实际上的优势，并开发了一种新的多尺度方法来评估神经符号技术的好处随着网络规模的演化，通过对多个数据集的实验和比较，我们的结果表明，推理中的语义调整可以用于构建更准确的基于神经网络的系统，使用更少的资源，并确保输出的语义一致性。
发现论文，激发创造
  • 神经符号学习系统中的优化

    神经符号 AI 旨在将深度学习与符号 AI 相结合，以减少训练神经网络所需的数据量，提高模型给出答案的可解释性和可解性，并验证经过训练的系统的正确性。我们研究神经符号学习，既有使用符号语言表示的数据，也有背景知识。通过模糊推理、概率推理以及训练神经网络来连接符号和神经组件，以交流这一知识。

    Jan, 2024

  • 图结构推理的神经符号人工智能：综述

    这篇论文调查了在图结构上执行神经符号推理任务的广泛方法，并提出了一个新的分类法来比较这些方法，包括基于逻辑推理嵌入方法、施加逻辑约束的嵌入方法和规则学习方法。此外，还提供了一个表格概述这些方法。

    Feb, 2023

  • 神经符号分类技术的概率推理复杂性

    神经符号人工智能是一个不断发展的研究领域，旨在将神经网络学习能力与符号系统的推理能力相结合。知情多标签分类是神经符号人工智能的一个子领域，研究如何利用先前知识改进神经分类系统。该论文介绍了一个信息驱动的监督分类任务和技术的形式化描述，并基于概率推理构建了三种抽象的神经符号技术。最后，展示了神经符号文献中常见的先前知识的多种表示语言的计算复杂度结果。

    Apr, 2024

  • 基于神经符号方法的弱监督推理

    深度学习在自然语言处理 (NLP) 任务中取得了显著进展，本研究提出了一种神经符号学习方法，将符号主义和连接主义两种人工智能学派相结合，通过强化学习或其弱化版本在下游任务中实现具有符号潜在结构的神经系统的弱监督推理。该框架已成功应用于表格查询推理、句法结构推理、信息抽取推理和规则推理等各种任务。

    Sep, 2023

  • 从原始数据学习答集程序的神经符号学习

    本文介绍了一种名为 NSIL 的神经符号归纳学习方法，通过训练一个通用神经网络，从原始数据中提取潜在的概念，同时学习映射潜在概念与目标标签的符号知识，从而解决复杂决策问题。我们在三个不同复杂度的问题领域上评估了 NSIL，包括 NP 完全问题。结果表明，NSIL 学习到了表达丰富的符号知识，能够解决计算复杂的问题，并在准确性和数据效率方面取得了最先进的性能。

    May, 2022

  • 面向数据和知识驱动的人工智能：神经符号计算综述

    本文介绍了神经符号计算（NeSy）领域的重要和最新研究发展，包括研究历史，背景知识，关键驱动因素以及主要特征。文章讨论了该领域的一些重要应用并针对目前存在的问题提出了新的研究方向，以期进一步推动以数据和知识为驱动的 AI 的研究进展。

    Oct, 2022

  • 广义注释逻辑的扩展及其等效神经架构

    本文探讨了深度神经网络存在的一些局限性，以及最近兴起的神经符号混合系统如何整合符号推理并提出改进方法，将通用注释逻辑扩展为一个基于离散优化的二值化神经网络，提供了可行性证明，并讨论了实现该框架面临的挑战。

    Feb, 2023

  • 从应用角度探索基于知识图的神经符号系统

    人工智能的快速发展，特别是通过深度神经网络，已经在视觉和文本处理等领域取得了显著进展。但是，实现人类类似的推理和可解释的人工智能系统仍然面临重大挑战。神经符号学范式将神经网络的深度学习能力与符号系统的推理能力结合起来，提供了开发更透明和可理解的人工智能系统的有希望途径。本文探讨了基于知识图谱的神经符号一体化的最新进展，阐明了知识图谱在三个关键类别中支撑着这种一体化：通过引入符号知识来增强神经网络的推理和可解释性（Symbol for Neural），通过神经网络方法来提高符号系统的完整性和准确性（Neural for Symbol），以及促进两者在混合神经符号一体化中的应用。本文强调了当前的趋势，并提出了神经符号人工智能领域未来研究的方向。

    May, 2024

  • 神经符号 AI：第三波

    本文探讨了神经符号计算技术中深度学习和知识表示应该如何有机结合，通过 20 年来的相关研究结果，为下一个 AI 系统的关键性成分做出探索，以神经符号系统的视角提出 AI 技术应该在信任、安全、可解释性和问责制方面有所提升和解决的方向和挑战。

    Dec, 2020

  • 神经符号学习的语义强化

    该论文探讨如何利用神经符号方法求解具有约束条件的优化问题，为此提出一种计算约束条件之间的互信息的方法，并在三个任务中进行了测试，证明了该方法在提高性能的同时，避免了计算上的复杂性。

    Feb, 2023