利用逻辑编程和核分组提高卷积神经网络的可解释性

Oct, 2023

利用逻辑编程和核分组提高卷积神经网络的可解释性

Using Logic Programming and Kernel-Grouping for Improving Interpretability of Convolutional Neural Networks

Parth Padalkar, Gopal Gupta

TL;DR通过提出 NeSyFOLD-G 神经符号化框架，本研究使用卷积神经网络的最后一层核心生成符号规则集，提高了深度学习模型解释性，并通过核心分组算法减少规则集大小。

Abstract

Within the realm of deep learning, the interpretability of Convolutional Neural Networks (CNNs), particularly in the context of image classification tasks, remains a formidable challenge. To this end we present a

deep learning interpretability convolutional neural networks neurosymbolic framework kernel grouping

发现论文，激发创造

NeSyFOLD：基于卷积神经网络生成逻辑解释的系统

本研究提出了一种名为 NeSyFOLD 的新型神经符号系统，通过以下步骤进行训练：（一）我们首先对输入图像数据集进行 CNN 预训练，并提取最后一层过滤器的激活作为二进制值；（二）接下来，我们使用基于规则的机器学习算法 FOLD-SE-M 生成一个逻辑程序，可以对表示为每个过滤器对应的二进制激活向量的图像进行分类，并生成逻辑解释。

Jan, 2023

卷积神经网络中的偏差校正的神经符号框架

通过神经符号框架 NeSyBiCor，我们成功纠正了使用 Places 数据集子类训练的卷积神经网络的偏见，以最小的准确性损失和更好的可解释性，大大减少了最终偏见校正规则集的大小。

May, 2024

利用逻辑规则开发深度神经网络

这篇论文提出了一种深度学习和逻辑规则相结合的通用框架，能够将逻辑规则的结构信息转移至神经网络的权重中，有效地提高了 CNN 和 RNN 的性能，适用于情感分析和命名实体识别等多个领域。

Mar, 2016

深层符号学习：从感知中发现符号和规则

本文提出了一种名为 Deep Symbolic Learning（DSL）的神经符号集成系统，它可以同时学习感知和符号函数，并且能够在可微分的神经网络学习管道中创建内部（可解释的）符号表示，以最好的方式解释数据。

Aug, 2022

使用受监督的卷积核网络进行端到端核学习

本文提出了一种基于多层核机的图像表示方法，并通过监督学习来调整核的形态。该方法构建了一种新的卷积神经网络，在一些深度学习数据集上取得了良好的分类表现，表明了该方法在图像相关任务中的应用价值。

May, 2016

利用逻辑背景知识改进基于神经网络的分类

我们提出了一种新的用于有命题背景知识的监督多标签分类的形式化方法，称为推理中的语义调整，其在推理过程中限制系统而不影响训练，相比于另外两种常见的神经符号技术（语义调整和语义正则化），我们讨论了其在理论和实际上的优势，并开发了一种新的多尺度方法来评估神经符号技术的好处随着网络规模的演化，通过对多个数据集的实验和比较，我们的结果表明，推理中的语义调整可以用于构建更准确的基于神经网络的系统，使用更少的资源，并确保输出的语义一致性。

Feb, 2024

神经符号学习：眼科学原理和应用

该综述介绍了神经符号学习（NeSyL）的最新方法及其原理，并讨论了它在视频和图像字幕、问答和推理、健康医学信息学和基因组学等领域的应用和未来发展前景。

Jul, 2022

基础模型在神经符号学习和推理中的作用

NeSyGPT 通过对视觉 - 语言基础模型进行微调，从原始数据中提取符号特征，并学习一个高度表达的回答集程序来解决下游任务，以提高 NeSy 任务的性能和减少数据标记和手动工程工作量。

Feb, 2024

广义注释逻辑的扩展及其等效神经架构

本文探讨了深度神经网络存在的一些局限性，以及最近兴起的神经符号混合系统如何整合符号推理并提出改进方法，将通用注释逻辑扩展为一个基于离散优化的二值化神经网络，提供了可行性证明，并讨论了实现该框架面临的挑战。

Feb, 2023

可控卷积神经网络的隐式神经卷积核

使用 MLP 来参数化 G - 可操作的卷积核，提出了一种简单灵活的 Steerable CNNs 框架，可推广到任何可建立 G - 等变 MLP 的群组 G。在点云（ModelNet-40）和分子数据（QM9）上应用我们的方法，与标准的 Steerable CNNs 相比，性能有显著提高。

Dec, 2022