Feb, 2024

图形张量表示法的机制可解释性简介

TL;DR图形张量表示法是一种简单的方式来表示张量的线性操作,对于理解现代深度学习系统中的张量操作至关重要,尤其是在试图逆向工程神经网络算法以理解其行为时更是如此。本文通过引入图形张量表示法,并应用于一些分解方法和语言模型理解方法,为理解这些系统提供了更方便的方式。