深度神经网络在头颈癌预测中的特征梯度流解释

Jul, 2023

深度神经网络在头颈癌预测中的特征梯度流解释

Feature Gradient Flow for Interpreting Deep Neural Networks in Head and Neck Cancer Prediction

Yinzhu Jin, Jonathan C. Garneau, P. Thomas Fletcher

TL;DR该研究介绍了一种名为特征梯度流的新技术，用于以人类可以理解的特征来解释深度学习模型。该技术通过测量可解释特征与模型的梯度流之间的一致性来评估特定特征对模型的重要性，并通过在损失函数中添加正则项来训练更易解释的神经网络。研究还在从癌症影像存档中的计算机断层扫描数据集中，对头颈癌远处转移的卷积神经网络预测进行了测试。

Abstract

This paper introduces feature gradient flow, a new technique for interpreting deep learning models in terms of features that are understandable to humans. The gradient flow of a model locally defines nonlinear coordinates in the input data space representing the information the model i

feature gradient flow interpretable features neural networks regularization term convolutional neural network

发现论文，激发创造

基于引导特征反演的深度神经网络预测解释方法

本文提出了一种基于指导特征反演框架的深度神经网络解释模型，可以确定神经网络中每个特征的贡献并提供决策过程的洞见，通过与 DNN 模型输出层目标类别的神经元进一步交互，我们强制解释结果具有类别区别能力，实验证明了我们提出的框架在提供 DNN 预测的类别判别性解释方面的有效性。

Mar, 2018

图神经网络作为梯度流：通过能量理解图卷积

将 Gradient flows 用于 Graph Neural Networks 的形式体系上，提供了一种物理学启发式的解释：将 GNN 视为 “在特征空间中学习粒子动力学”，并证明了正 / 负特征通道混合矩阵的特征值对应相邻特征之间的引力 / 排斥力，这使得 GNN 能够处理不同特征的异质性图。

Jun, 2022

梯度作为深度表示学习中的特征

本文提出基于梯度的特征及使用线性模型将梯度与预训练网络的激活函数相结合用于深度表示学习，从而实现预训练网络对不同任务的高效适应，通过实验验证了该算法在不同网络结构下，在多个数据集的各种表征学习任务上获得了强大的结果并与理论分析相符。

Apr, 2020

几何引导式的整合梯度

本文提出了一种基于深度神经网络模型参数空间局部几何性质的解释性方法 —— 几何引导的积分梯度法，在主观和量化评价方面表现优于传统的积分梯度法和总体梯度法，并提出了 “模型扰动” 的健全性检查，以补充传统的 “模型随机化” 测试。

Jun, 2022

基于连接组学的大脑疾病分析可解释化图神经网络

该研究提出了一个可解释性的框架，用于分析特定于疾病的感兴趣区域和突出连接。该框架包括一个面向脑网络的预测模型和一个全局共享的解释生成器，该生成器突出了特定于疾病的生物标记物。实验证明，该框架可以获得出色的性能并识别有意义的生物标记物。

Jun, 2022

神经网络与重整化群流的尺度不变特征提取

基于玻尔兹曼机和伊辛模型，利用模型参数流的方式，研究深度神经网络特征提取的层次性以及与统计物理中重整化群的关系。通过分析训练后的玻尔兹曼机的权重矩阵性质，解释其向临界温度 $T_c=2.27$ 流动的原因以及学习提取自旋构型特征的方式。

Jan, 2018

图神经网络代理模型的可解释微调

使用图神经网络的可解释微调策略对基于网格的流体动力学建模进行研究，以提高其可预测性和解释性，并通过正则化过程识别与预测错误相关的图节点。

Nov, 2023

通过解释进行视觉说明：提高深度神经网络视觉反馈能力

本文提出了一种基于内部特征及可视化的方法，能够自动识别预先训练模型中与给定类相关的特征，以进行深度模型的解释和阐释，并且提出了一种针对 deconvNet 可视化操作引入的伪像问题的方法，同时还提出了一个专门用于视觉解释方法客观定量评估的数据集 an8Flower。实验证明，该方法在 MNIST、ILSVRC12、Fashion144k 和 an8Flower 数据集上能够产生具有良好主题相关特征覆盖的详细解释。

Dec, 2017

深度神经网络揭示脑的腹侧视觉通路中神经表征复杂度的梯度

利用深度卷积神经网络，研究人员成功地探测到哺乳动物腹侧视觉途径中逐渐增加的特定特征梯度，并将不断增加的特征复杂度映射到人类大脑，从而提供了研究大脑表示如何映射的自动化方法。最终，研究表明，在先前无法实现的精度下，深度卷积神经网络可以对人脑表示进行解码，为我们提供了更敏感的窗口观察人脑。

Nov, 2014

一种前向后向方法用于可视化深层网络中的信息流

该研究提出了一种新的系统框架，用于可视化深度网络中的信息流，通过在给定的测试图像中生成与给定解释有关的紧凑支持，该方法具有计算效率和数值稳健性，并提供了几个初步的数值结果，支持我们的框架优于现有方法的好处。

Nov, 2017