Feb, 2021

如何在神经网络中表示部分 - 整体层次结构

TL;DR本文提出一种表示方法,使用 GLOM 虚拟系统将多个研究领域的进展结合,包括变压器、神经场、对比表示学习、蒸馏和胶囊。GLOM 的想法是使用相同向量的端点表示解析树中的节点,从而在图像中生成不同结构的 part-whole 层次结构,可显著提高变压器系统在视觉或语言处理中产生的表征的可解释性。