用于表格生物医学数据的局部稀疏神经网络

Jun, 2021

用于表格生物医学数据的局部稀疏神经网络

Locally Sparse Neural Networks for Tabular Biomedical Data

Junchen Yang, Ofir Lindenbaum, Yuval Kluger

TL;DR本研究提出了一种适用于生物医学领域、intrinsically interpretable 的神经网络框架，采用局部稀疏网络和 gating 网络实现对样本的 sample-specific sparsity 预测，减少了对小样本数据的过拟合，提高了模型的可解释性，并证明了该模型在生物预测任务中的优越性。

Abstract

tabular datasets with low-sample-size or many variables are prevalent in biomedicine. Practitioners in this domain prefer linear or tree-based models over neural networks since the latter are harder to interpret

tabular datasets neural networks biomedical data local sparsity interpretable model

发现论文，激发创造

ProtoGate: 基于样本原型和局部特征选择的表格生物医学数据神经网络

本研究提出了 ProtoGate，一种基于原型的神经网络模型，通过全局到局部选择特征并利用这些特征生成可解释的预测，识别数据中的同质性和异质性模式来改善预测精度。对合成和真实世界数据集进行了综合实验，结果表明，利用数据中的同质性和异质性模式可以提高预测精度，而原型增加了可解释性。

Jun, 2023

综合翻译聚焦特征解释：从表格数据中获取预测信号

通过对注意力机制进行研究并将其建模为从 Gumbel-Softmax 分布中采样的潜在变量，我们提出了 InterpreTabNet，该模型通过 KL 散度正则化实现了注意力掩码中不同概念的学习，从而改善了预测结果的解释性和预测关键要素的确定性，并结合大型语言模型和提示工程方法来帮助解释我们模型中特征之间的相互依赖关系。在真实数据集上的综合实验表明，InterpreTabNet 在解释表格数据方面优于先前的方法，并同时保持了较高的准确性。

Jun, 2024

基于潜在图的生物医学表格数据半监督学习

通过建立潜在图来发现数据之间的内在关系，我们的方法在半监督学习中取得了最先进的结果，并且在三个生物医学数据集上进行了验证。

Sep, 2023

稀疏神经网络训练

本研究介绍了一种使用稀疏计算的神经网络训练和构建方法，通过引入额外的门变量来执行参数选择，并在小型和大型网络上进行实验验证，证明了我们的方法在稀疏神经网络模型的压缩方面取得了最先进的结果。

Nov, 2016

同调神经网络：一个适用于多变量复杂性的稀疏架构

本研究应用基于网络的信息过滤技术设计了一种新的深度神经网络单元，其具有由基础数据的同调结构构建的稀疏高阶图形架构，同时证明它在传统难以解决的领域，如表格数据和时间序列回归问题中的有效性，仅使用一小部分参数即可超越最先进的机器学习和深度学习模型的结果。

Jun, 2023

TabularNet: 一种理解表格数据语义结构的神经网络架构

提出了一种名为 TabularNet 的新型神经网络结构，采用 CNN 模型来进行表格数据的空间编码，并且利用基于 WordNet 树的图构建方法来进行单元格之间复杂的关系编码，结果表明该方法有效提高了表格分类任务的精度.

Jun, 2021

同调卷积神经网络

通过在稀疏的表格数据中利用拓扑约束网络表示结构，我们提出了一种新颖的深度学习架构，利用卷积提取空间信息，并通过网络拓扑的有限概念来确保数据导向、可解释性和可扩展性，在 18 个基准数据集上测试表明，我们的方法在这些具有挑战性的数据集上达到了最先进的性能。

Aug, 2023

可解释的图神经网络用于表格数据

IGNNet 是一个解释性图神经网络，用于处理表格数据，通过表征学习的方式捕获特征交互，大规模的实证研究证明 IGNNet 与 XGBoost、Random Forests 和 TabNet 等最先进的机器学习算法在处理表格数据时表现相当，同时 IGNNet 的解释与特征的 Shapley 值一致而无需额外的计算开销。

Aug, 2023

稀疏线性概念发现模型

通过对比性语言图像模型和单一稀疏线性层，我们提出了一个简单而直观的可解释框架，通过基于贝叶斯推理的数据驱动伯努利分布来实现框架中的稀疏性，相比相关方法，在准确性和每个样本概念稀疏性方面均表现出色，为新概念的个体研究提供便利。

Aug, 2023

基于神经网络的序列数据分类规则学习

本文提出了一种新颖的可微分全可解释性方法，用于发现规则为基础的二元分类的本地和全局模式，并在开源肽数据集上展示了方法的有效性和实用性。

Feb, 2023