Apr, 2024

逻辑表达能力对 IID 松弛度的影响：将逻辑符合神经符号要求的研究议程

PDF
TL;DR神经符号背景知识和其逻辑的表达性可以打破机器学习对于数据独立性和相同分布性的假设。在这篇论文中，我们提议分析适合不同用例要求的层次逻辑中的 IID 放松。我们讨论了利用已知数据依赖性和分布约束条件在神经符号用例中的好处，并认为这种知识所需的表达性对底层机器学习例程的设计具有影响。这开启了一个新的研究议程，涉及神经符号背景知识和其逻辑所需的一般问题。
发现论文，激发创造
  • 评估神经网络逻辑松弛：一项全面研究

    本文研究如何最佳地放松逻辑表达式，以便将符号知识纳入到神经网络中，重点是利用亚微分的 t - 范数放松逻辑表达式。通过理论和实证研究，我们为表征在不同情况下哪种松弛方式表现最佳提供了理论和实证标准，并针对在保留重言式方面，Lukasiewicz t - 范数表现最佳的观点进行了理论研究，但在对文本分块和数字识别任务的实证分析中，产品 t - 范数实现了最佳预测性能。最后，我们总结了利用逻辑定义损失函数的最佳实践。

    Jul, 2021

  • 神经符号层次规则归纳

    提出一种高效、可解释的神经符号模型来解决归纳逻辑编程问题，并通过实验验证其性能。

    Dec, 2021

  • 深层归纳逻辑编程与强化学习相遇

    我们提出了一种将可区分的神经逻辑网络应用于关系强化学习领域，以解决动态连续环境中的问题。该模型更新了架构，使其能够在连续强化学习环境中解决问题，并通过引入非线性连续谓词来改进当前的归纳逻辑编程方法，允许关系强化学习代理在动态和连续的环境中进行推理和决策。

    Aug, 2023

  • 具有内省修正的神经符号自然逻辑用于自然语言推理

    本文介绍了一个基于强化学习和内省修订的神经符号自然逻辑框架，通过策略梯度对特定推断路径进行采样和奖励，并利用外部知识缓解虚假推理和训练低效问题。该模型具有内在的可解释性，在单调性推理、系统泛化和可解释性方面表现出优越能力，相对于先前的模型在现有数据集上表现更好。

    Mar, 2022

  • 统计关系学习和神经符号人工智能：一阶逻辑提供了什么？

    本文旨在以非技术的方式简要概述并表达使用（一阶）逻辑来表示（概率）知识的逻辑和哲学基础。

    Jun, 2023

  • 通过可微归纳逻辑程序设计将关系背景知识纳入强化学习

    本文提出了一种基于可微分归纳逻辑编程的深度关系强化学习算法，可以从图像中有效地学习关系信息并将环境的状态呈现为一阶逻辑谓词，同时可以将专家背景知识并入学习问题中，展示了该框架在 BoxWorld、GridWorld 以及 Sort-of-CLEVR 数据集等环境中的有效性。

    Mar, 2020

  • 逻辑约束下的学习，但不满足快速通道

    通过引入双变量来解决逻辑连接约束的快捷方式问题，将编码形式化为与模型的原始训练损失兼容的分布损失，实现学习逻辑约束的新框架在模型的普适性和约束满足方面表现出卓越的性能。

    Mar, 2024

  • 神经逻辑归纳学习：高效解释技能的学习

    本研究提出了一种名为 “神经逻辑归纳学习” 的可微分归纳逻辑编程框架，通过学习可以解释数据模式的一阶逻辑规则，与现有的方法相比，具有更高的效率和可扩展性。

    Oct, 2019

  • 具有逻辑神经网络的神经符号归纳逻辑编程

    采用逻辑神经网络学习归纳逻辑规则，得出高度可解释且具有灵活参数化以适应数据的规则。

    Dec, 2021

  • 比较可微分逻辑用于学习系统的研究预览

    通过将背景知识编码为逻辑约束，用可微分逻辑指导学习过程，创造性地满足约束的机器学习模型进行了比较和评估，并提出了未来工作的开放问题。

    Nov, 2023