在双曲空间中进行层次符号推理以用于深度判别模型

Jul, 2022

在双曲空间中进行层次符号推理以用于深度判别模型

Hierarchical Symbolic Reasoning in Hyperbolic Space for Deep Discriminative Models

Ainkaran Santhirasekaram, Avinash Kori, Andrea Rockall, Mathias Winkler, Francesca Toni...

TL;DR使用超几何来解释深度判别模型的特征重要性和生成层级符号规则的方法，有效提高了模型解释的多级抽象水平。

Abstract

Explanations for \emph{black-box} models help us understand model decisions as well as provide information on model biases and inconsistencies. Most of the current explainability techniques provide a single level of explanation, often in terms of feature importance scores or feature at

explainability black-box models deep discriminative models hyperbolic geometry hierarchical symbolic rules

发现论文，激发创造

基于聚类的符号化知识提取方法

本文提出使用深度聚类法作为符号知识提取的预处理方法以获得更好的性能，并讨论了基于超立方体输入空间区域的规则创建被分区可能导致次优解的情况。

Nov, 2022

一种完全双曲神经模型用于分层多类别分类

提出了一个全超伽马模型进行多类多标签分类，该模型可以从类别分布中推断出潜在的层次关系，捕获库存中的隐含下义关系，并显示出与最先进的方法相当的细粒度分类性能，具有可观的参数规模缩减。

Oct, 2020

双曲深度强化学习

本文提出了一种新的深度强化学习算法类，其中建模超螺旋空间中的潜在表示。通过使用超螺旋几何提供深度强化学习模型以精确编码本质上分层的信息，借此进行任务相关的关键演化特征的关系捕捉。然而，现有方法中的优化稳定性问题导致 RL 梯度估计器的非稳态和方差性，本文通过设计了一种新的通用方法来解决这些问题并实现深度超螺旋表示的稳定端到端学习，并在 Procgen 和 Atari 100K benchmarks 上验证了该框架的有效性。

Oct, 2022

双曲深度神经网络：一份调查

本文介绍了超半径神经网络的模型以及各个组成部分，探究了其在超几何空间的深度学习方法、机器学习任务上的应用，提出了未来研究方向。

Jan, 2021

正确的概念：通过与其解释交互来修订神经符号概念

该研究提出了一种基于神经符号场景表征的解释交互学习方法，它能够在语义层面上对模型进行干预，通过对物体的组合性解释来获得更好的效果。

Nov, 2020

PE：一种用于快速文本层次生成的 Poincare 解释方法

该研究介绍了一种称为 Poincaré 解释（PE）的新方法，在 O (n^2logn) 时间复杂度内使用双曲空间建模特征交互，并证明了在投影空间中的层次聚类过程可以视为构建最小生成树，并提出了一种时间高效的算法。实验结果证明了我们方法的有效性。

Mar, 2024

在潜在特征空间中通过学习图像示例实现黑匣子解释

通过在黑盒模型中采用对抗性自动编码器学习到的潜在特征空间，生成实例图像并学习决策树分类器的方法，从而对黑盒模型进行解释，并提供了更好的解释性能。