可解释的图神经网络用于表格数据

Aug, 2023

可解释的图神经网络用于表格数据

Interpretable Graph Neural Networks for Tabular Data

Amr Alkhatib, Sofiane Ennadir, Henrik Boström, Michalis Vazirgiannis

TL;DRIGNNet 是一个解释性图神经网络，用于处理表格数据，通过表征学习的方式捕获特征交互，大规模的实证研究证明 IGNNet 与 XGBoost、Random Forests 和 TabNet 等最先进的机器学习算法在处理表格数据时表现相当，同时 IGNNet 的解释与特征的 Shapley 值一致而无需额外的计算开销。

Abstract

Data in tabular format is frequently occurring in real-world applications. graph neural networks (GNNs) have recently been extended to effectively handle such data, allowing feature interactions to be captured through representation learning. However, these approaches essentially produ

tabular data graph neural networks interpretable model machine-learning algorithms shapley values

发现论文，激发创造

基于图神经网络的表格数据深度学习上下文嵌入

本文提出了一种新型深度学习模型，使用图神经网络（GNN）—— 特别是交互网络（IN）进行情境嵌入，以应对以表格形式存在的异构数据和特征。该模型在五个公共数据集上的深度学习基准测试中表现优异，优于最近发表的研究结果，并在与增强树解决方案的比较中也取得了竞争结果。

Mar, 2023

可理解和有效的图神经加性网络

该研究论文介绍了一种可解释性图神经网络模型，名为 Graph Neural Additive Network（GNAN），通过直接可视化模型，可以在特征和图层次上提供全局和局部解释，展现模型在目标变量、特征和图之间的关系，实验证明 GNAN 与黑盒图神经网络在准确性上相当，因此适用于需要透明度的关键应用。

Jun, 2024

可解释图神经网络的可解释性如何？

以图分类 benchmarks 为基础，提出了一种理论框架，通过 subgraph multilinear extension (SubMT) 来学习可解释图子图，设计了一种新的图神经网络架构（Graph Multilinear neT），在解释性和泛化性方面优于现有方法，提高了多项 benchmarks 上的表现。

Jun, 2024

隐式图神经网络

本文提出了一种名为 “Implicit Graph Neural Networks（IGNN）” 的图学习框架，其利用 Perron-Frobenius 理论来确保该框架的良好性，并利用隐式微分得到一种可行的投影梯度下降法来训练该框架，实验证明 IGNN 可以稳定捕捉长程依赖并优于现有的 GNN 模型。

Sep, 2020

综合翻译聚焦特征解释：从表格数据中获取预测信号

通过对注意力机制进行研究并将其建模为从 Gumbel-Softmax 分布中采样的潜在变量，我们提出了 InterpreTabNet，该模型通过 KL 散度正则化实现了注意力掩码中不同概念的学习，从而改善了预测结果的解释性和预测关键要素的确定性，并结合大型语言模型和提示工程方法来帮助解释我们模型中特征之间的相互依赖关系。在真实数据集上的综合实验表明，InterpreTabNet 在解释表格数据方面优于先前的方法，并同时保持了较高的准确性。

Jun, 2024

图神经网络机器：用于表格数据学习的新模型

近年来，对不同领域数据进行图结构化映射的兴趣日益增长。本文展示了多层感知器（MLP）等神经网络模型可以用图表示，而图神经网络（GNN）是在图上执行机器学习任务的标准工具。我们提出了一种用于表格数据的新的机器学习模型，称为图神经机器（GNM），它用几乎完全图代替了 MLP 的有向无环图，并采用同步消息传递方案。我们展示了单个 GNM 模型可以模拟多个 MLP 模型，并在多个分类和回归数据集上评估了所提出的模型。在大多数情况下，GNM 模型优于 MLP 架构。

Feb, 2024

TabNet: 关注可解释的表格学习

本研究提出了一种新的、高性能和可解释的深度表格数据学习架构 TabNet，采用顺序注意方法在每个决策步骤中选择推理特征，实现了可解释性和更高效的学习。我们证明，在各种非性能饱和表格数据集上，TabNet 胜过其他神经网络和决策树变体，并提供了可解释的特征归因和对全局模型行为的深入认识。最后，我们首次在表格数据上展示了自监督学习，在未标记的数据丰富情况下显著提高了性能。

Aug, 2019

XGNN: 面向图神经网络模型级解释

提出了一种名为 XGNN 的新方法，通过训练图生成器来解释 GNN 在模型级别的工作，其中将图形生成作为强化学习任务，并利用训练的 GNN 信息对图形生成器进行策略梯度方法的训练，最终可以有效地理解和验证所训练的 GNN 的结果，并在生成的图形上改进 GNN 的性能。

Jun, 2020

运用表格数据中的思想重新构想 GNN 解释

对于图神经网络，解释性技术相比于表格数据的神经网络和决策树模型仍有很长的路要走。在使用实体匹配作为跨度图和表格数据的任务中，我们评论了 GNN 模型解释中尚缺的关键方面。

Jun, 2021

使用内部代理解释图神经网络

我们提出了一种使用代理图生成可解释子图的新方法，通过信息论设计的训练目标确保代理图符合训练数据的分布并保留基本的解释因素，从而实现更准确的图神经网络解释。

Feb, 2024