AAAIJan, 2019
关于网络科学和互信息的深度神经网络解释
On Network Science and Mutual Information for Explaining Deep Neural Networks
Brian Davis, Umang Bhatt, Kartikeya Bhardwaj, Radu Marculescu, José M. F. Moura
TL;DR本文提出了一种新的方法来解释深度学习模型,并通过结合互信息和网络科学探究了信息在前馈网络中的流动。我们展示了高效近似互信息可以创造一个信息度量,用于量化深度学习模型中任意两个神经元之间流动的信息量,并提出了神经信息流(NIF)技术,用于编码信息流并提供特征归因。