Apr, 2023
神经理解：编译神经网络的语言模型
Neural Comprehension: Language Models with Compiled Neural Networks
Yixuan Weng, Minjun Zhu, Fei Xia, Bin Li, Shizhu He...
TL;DR本文介绍了如何在语言模型中引入编译的神经网络（CoNNs），以实现语言模型的规则全面理解能力。该方法称为 “神经理解”，可提高语言模型在符合任务中的性能，在需要超越训练数据模式识别的领域中特别有用。在符号操作中，我们的方法能够提高语言模型的绝对准确性，增强其规则推理、符号推理和算术推理能力。