Nov, 2023

COOL：一种约束面向对象逻辑编程语言及其神经符号编译系统

PDF
TL;DR该论文研究了神经网络与逻辑编程的整合，解决了将神经网络的泛化和学习能力与符号逻辑的精确性相结合的难题。为了克服这些问题，引入了一种名为 COOL（Constraint Object-Oriented Logic）编程语言的创新方法，将逻辑推理与神经网络技术无缝结合起来，并通过自动处理数据收集、减少欠训练风险的用户提示以及增强模型之间的交互来促进网络的重用和扩展。此外，COOL 的设计和编译系统中的基本原理和算法可以为未来编程语言和神经网络架构的发展提供宝贵的启示。
neural networkslogic programmingcool programming languagedata collectionmodel reuse
发现论文，激发创造
  • 具有逻辑神经网络的神经符号归纳逻辑编程

    采用逻辑神经网络学习归纳逻辑规则，得出高度可解释且具有灵活参数化以适应数据的规则。

    Dec, 2021

  • LogicMP：一种编码一阶逻辑约束的神经符号化方法

    该论文提出了一种新颖的神经层，LogicMP，它的层对一个 MLN 执行均场变分推理，可以插入到任何现有的神经网络中以编码 FOLCs，同时保持模块化和高效性。利用 MLNs 中的结构和对称性，我们理论上证明了我们设计良好的高效均场迭代有效地缓解了 MLN 推断的困难，将推断从顺序计算减少为一系列并行张量操作。在图形、图像和文本的三种任务中的实证结果表明，LogicMP 在性能和效率上胜过其他先进的竞争对手。

    Sep, 2023

  • 神经理解：编译神经网络的语言模型

    本文介绍了如何在语言模型中引入编译的神经网络（CoNNs），以实现语言模型的规则全面理解能力。该方法称为 “神经理解”，可提高语言模型在符合任务中的性能，在需要超越训练数据模式识别的领域中特别有用。在符号操作中，我们的方法能够提高语言模型的绝对准确性，增强其规则推理、符号推理和算术推理能力。

    Apr, 2023

  • 通过神经逻辑网络学习算法

    提出了一种基于布尔逻辑代数的深度神经网络学习模型，建立了神经逻辑网络模型，可以显式地学习和解释逻辑函数，特别是用于归纳逻辑编程问题的新框架。通过在测试任务上的表现比较，证明了所提供的模型在元素算法任务上的有效性，并且可用于一些基准任务，如有序列表上的排序、十进制加法和乘法。

    Apr, 2019

  • 逻辑神经网络

    我们提出了一种新的框架，无缝提供神经网络（学习）和符号逻辑（知识和推理）的关键属性，每个神经元都有权重实值逻辑公式的组成部分，得到了高度可解释的分离表示，推理是全向的而不是集中在预定义的目标变量上，对应于逻辑推理，包括经典的一阶逻辑定理证明作为特殊情况。

    Jun, 2020

  • 逻辑张量网络

    本文介绍了一种名为 Logic Tensor Networks（LTN）的神经符号形式和计算模型，支持通过引入一种称为 Real Logic 的可微分一阶逻辑表示语言进行学习和推理，并说明 LTN 提供了一种统一语言来规范和计算多个人工智能任务。

    Dec, 2020

  • 广义注释逻辑的扩展及其等效神经架构

    本文探讨了深度神经网络存在的一些局限性，以及最近兴起的神经符号混合系统如何整合符号推理并提出改进方法，将通用注释逻辑扩展为一个基于离散优化的二值化神经网络，提供了可行性证明，并讨论了实现该框架面临的挑战。

    Feb, 2023

  • 逻辑约束下的深度学习

    本文综述了利用逻辑指定的背景知识以获取性能更好、学习数据更少或保证符合背景知识的神经模型的研究，并根据表达背景知识的逻辑语言和实现目标进行分类。

    May, 2022

  • 使用逻辑神经网络结合外部知识的强化学习

    本文利用逻辑神经网络（LNNs）定义推理图，通过控制不需要执行的动作来加速强化学习的收敛速度，从外部知识源中实现无模型强化学习，我们的实验结果表明，相较于没有逻辑约束的模型自由强化学习方法，我们的方法收敛速度更快。

    Mar, 2021

  • 语义目标函数：向深度学习中添加逻辑约束的一种分布感知方法

    通过结合逻辑和信息几何，我们提出了一种将知识嵌入和逻辑约束引入机器学习模型中的方法，通过构造分布并将其与原始损失函数以及费舍尔 - 劳距离或库尔巴克 - 莱布勒散度相结合构造损失函数，以输出概率分布来包含逻辑约束。

    May, 2024