ProtoGate: 基于样本原型和局部特征选择的表格生物医学数据神经网络

Jun, 2023

ProtoGate: 基于样本原型和局部特征选择的表格生物医学数据神经网络

ProtoGate: Prototype-based Neural Networks with Local Feature Selection for Tabular Biomedical Data

Xiangjian Jiang, Andrei Margeloiu, Nikola Simidjievski, Mateja Jamnik

TL;DR本研究提出了 ProtoGate，一种基于原型的神经网络模型，通过全局到局部选择特征并利用这些特征生成可解释的预测，识别数据中的同质性和异质性模式来改善预测精度。对合成和真实世界数据集进行了综合实验，结果表明，利用数据中的同质性和异质性模式可以提高预测精度，而原型增加了可解释性。

Abstract

Tabular biomedical data poses challenges in machine learning because it is often high-dimensional and typically low-sample-size. Previous research has attempted to address these challenges via feature selection a

machine learning feature selection prototype-based neural model inductive bias interpretable model

发现论文，激发创造

用于表格生物医学数据的局部稀疏神经网络

本研究提出了一种适用于生物医学领域、intrinsically interpretable 的神经网络框架，采用局部稀疏网络和 gating 网络实现对样本的 sample-specific sparsity 预测，减少了对小样本数据的过拟合，提高了模型的可解释性，并证明了该模型在生物预测任务中的优越性。

Jun, 2021

利用方差感知的典型网络从放射学报告中元学习病态

本文提出了一种为 few-shot 文本分类的经典网络增加高斯类原型和一种鼓励示例靠近适当类别中心的正则化项的简单方法，表明该方法比 13 个公共数据集和 4 个内部数据集的各种强基线更为出色，并将类分布作为检测潜在的部署时油水分离数据点的工具。

Oct, 2022

ProtoS-ViT：稀疏自解释分类的视觉基础模型

冷冻预训练的 ViT 后骨干能有效地转化为示范性模型，提高模型的准确性、简洁性和可解释性，通过一系列定量和定性指标评估模型可解释性。

Jun, 2024

Proto-BagNets 的本地和全局可解释性设计

介绍了 Proto-BagNets，一种可解释性设计的基于原型的模型，结合了局部特征模型和原型学习的优势，为准确和可解释的图像分类任务提供了有意义、连贯和相关的原型部分。在公开可用的视网膜 OCT 数据上对 Proto-BagNet 进行了玻璃体腔检测的评估，Proto-BagNet 在提供忠实、准确和临床有意义的局部和整体解释的同时，与最先进的可解释和不可解释模型的性能相当。

Jun, 2024

高斯分布原型混合与生成模型相结合的可解释的图像分类

这篇论文介绍了一种新的原型分布生成学习方法，名为 MGProto，它使用高斯混合模型表示原型分布，并结合原型多样性目标函数来提高表示能力和减少冗余，同时利用其生成性质实现了有效的异常样本检测。实验结果表明 MGProto 在分类和异常样本检测方面取得了最先进的性能，并具有令人鼓舞的可解释性结果。

Nov, 2023

样本生成：数据无关的鲁棒特征可视化

我们介绍了原型生成，一种更严格和更健壮的特征可视化方法，用于针对模型不可知、数据独立的图像分类模型的解释性。我们展示了其生成能力，可以产生自然激活路径，从而反驳以往特征可视化算法由于不自然的内部激活而不可信的说法。我们通过定量测量生成的原型和自然图像的内部激活之间的相似性来支持这些说法。我们还展示了如何解释生成的原型所产生的重要见解，突出模型学习到的虚假相关性和偏见，这是定量方法在测试集上无法识别的。

Sep, 2023

ProtoTEx: 用原型张量解释模型决策

ProtoTEx 是一种基于原型网络的新型白盒 NLP 分类体系结构，其通过原型张量解释模型决策，可在处理没有代表性特征的类别时有效地处理，可精准检测网络新闻中的宣传，并通过原型解释帮助非专业人士更好地识别宣传。

Apr, 2022

看起来比那个更好：使用 ProtoPNeXt 获得更好的可解释模型

使用 ProtoPNeXt 框架，结合贝叶斯超参数调整和角度原型相似度度量，有效提高了原始 ProtoPNet 在 CUB-200 上的准确性，同时优化了原型的可解释性，产生了具有显著改进的模型。

Jun, 2024

临床文本的原型网络对诊断预测的可解释性

使用基于原型网络和标签注意力机制的 ProtoPatient 方法可准确预测临床文本中的诊断，并为医生提供可解释和有用的结果，定量和定性评估表明该模型优于现有基线模型，医学医生的进一步验证证明了该模型为临床决策支持提供了有价值的解释。

Oct, 2022

综合翻译聚焦特征解释：从表格数据中获取预测信号

通过对注意力机制进行研究并将其建模为从 Gumbel-Softmax 分布中采样的潜在变量，我们提出了 InterpreTabNet，该模型通过 KL 散度正则化实现了注意力掩码中不同概念的学习，从而改善了预测结果的解释性和预测关键要素的确定性，并结合大型语言模型和提示工程方法来帮助解释我们模型中特征之间的相互依赖关系。在真实数据集上的综合实验表明，InterpreTabNet 在解释表格数据方面优于先前的方法，并同时保持了较高的准确性。

Jun, 2024