解释性学习：神经网络中超越经验主义

Jan, 2022

解释性学习：神经网络中超越经验主义

Explanatory Learning: Beyond Empiricism in Neural Networks

Antonio Norelli, Giorgio Mariani, Luca Moschella, Andrea Santilli, Giambattista Parascandolo...

TL;DR该论文介绍了一种基于符号序列及其解释的机器学习框架 —— 解释性学习，提出了该领域的学习方法，并引入了一个演示环境（Odeen），在其中比较了基于解释性学习与传统机器学习范式的方法（如 Transformer）在发现新现象的解释方面的性能表现，发现基于解释性学习的 CRN 优于传统的方法。

Abstract

We introduce explanatory learning (EL), a framework to let machines use existing knowledge buried in symbolic sequences -- e.g. explanations written in hieroglyphic -- by autonomously learning to interpret them. In EL, the burden of interpreting symbols is not left to humans or rigid h

explanatory learning program synthesis critical rationalist networks machine learning knowledge acquisition

发现论文，激发创造

基于熵的神经网络逻辑解释

该论文提出了一种基于熵的标准及一种新的端到端可微分的方法，用于从概念神经网络中提取逻辑解释，该方法使用一阶逻辑的形式化定义，并考虑了四个案例研究来证明这种熵基准能够从临床数据到计算机视觉中，在安全关键领域中提取简洁的逻辑解释。

Jun, 2021

上下文解释网络

提出使用 CEN（contextual explanation networks）架构进行预测，生成中间简化的概率模型作为解释，为每个预测生成有效的、实例特定的解释，并可用于决策支持。CEN 架构不仅和现有的最先进方法相竞争，且在决策支持方面提供了有价值的额外细节。

May, 2017

可解释方法中的婴儿大脑注意力方式

该文提出了一种名为 “可解释的几何深度网络” 的端到端学习方法，用于在高维数据中实现精细的可解释性，例如神经成像和神经科学研究。该方法采用学习解释性因素来增强鉴别性表示提取，以实现可解释的预测和分类结果。

Jan, 2023

结合概念分析和 ILP 的 DNN 表达式解释

该论文研究了如何利用深度学习神经网络中学习到的内在特征，利用概念分析方法和归纳逻辑编程理论，构建基于符号的模型，实现黑盒机器学习的可解释性，体现其透明度和可靠性的要求。

May, 2021

LioNets: 通过次最终层解码对神经网络进行本地解释

通过考虑神经网络的架构，在局部范围内主动构建实例邻域的过程中，提供用于神经网络决策的解释的方法。

Jun, 2019

可解释的神经符号视觉推理

本文讨论了为非技术用户产生解释的最有效和高效的解决方案，提出了一种基于连接主义和符号范式的推理模型来解释神经网络的决策，并用一个例子演示了它的潜在用途。

Sep, 2019

EXPIL：游戏学习中的解释性谓词创造

通过自我发明谓词来减少对预先定义背景知识的依赖，从而实现对逻辑代理的可解释行为。

Jun, 2024

外推和学习方程

该研究提出了一种名为等式学习器（EQL）的新型函数学习网络，可以学习解析表达式，并能够外推到未知的领域。通过稀疏正则化可以得到简洁明了的可解释表达式，可用于高效的基于梯度的训练。

Oct, 2016

InterpNET: 可解释深度学习的神经内视

本文提出了一种新的解释性神经网络框架，可以生成自然语言的分类解释，试图弥合人类推理和深度神经网络推理相差的鸿沟。该模型在 CUB 鸟类分类和解释数据集上获得了 METEOR 分数 37.9，为目前最高水平。

Oct, 2017

自解释神经网络的稳健可解释性研究

提出了自说明模型的三个特点 —— 显式性，忠诚度和稳定性，旨在落实模型可解释性并实现复杂模型的解释性，通过特定模型的正则化实现忠诚度和稳定性的要求，实验结果表明，该框架为解决模型的复杂性和可解释性困境提供了一个有前途的方向。

Jun, 2018