关键词stanford sentiment treebank
搜索结果 - 4
- 大语言模型中情感的线性表征
在这项研究中,我们发现情感在大型语言模型中以线性方式表示,通过因果干预,我们证明情感表示在特定方向是有因果关系的。此外,我们揭示了情感表示涉及的注意力和神经元的机制,并发现了一种名为 “summarization motif” 的现象,其中 - EMNLP卷积神经网络与循环神经滤波器
使用循环神经网络作为卷积滤波器的卷积神经网络在处理自然语言处理任务时具有更强的合成性和长期依赖性,并在 Stanford Sentiment Treebank 和两个答案句子选择数据集上取得了与最佳结果相当的效果。
- 动态自注意力:动态计算单词的注意力,用于句子嵌入
本文提出了动态自注意力(DSA)机制,以改善自注意力的单词权重问题,提高句子嵌入的表现,在 Stanford 自然语言推理数据集中创造了最新的最先进结果,并在 Stanford 情感树库中取得了相似的结果。
- 使用长短时记忆的组合分布式语义
本文提出了一种递归神经网络的扩展,使用了一种长短期记忆结构的变体。该扩展允许将位于解析树底部的信息存储在内存寄存器(“内存单元”)中,并在解析树的较高位置上使用。这提供了一个解决梯度消失问题并允许网络捕获长距离依赖的方案。实验结果表明,本文