潜在变量情感语法
情感分析的关键,情感组合,通过对其包含的子元素的分类和对它们进行的规则操作进行分类。我们提出了语义树,一种能够以一种原则性方式解释情感组合的新树形式。语义树是上下文无关语法 (CFG) 的派生物,描述了不同语义角色的特定组合规则,这些规则是根据以前的语言学结论进行精心设计的。然而,语义树是一个潜在变量,因为常规数据集中没有它的注释。因此,在我们的方法中,通过内部算法将其边缘化并学习以优化分类性能。定量和定性结果表明,我们的方法在常规和领域适应分类设置中不仅实现了与基准方法更好或具有竞争力的结果,而且还生成了可行的树解释。
Aug, 2023
本研究提出了使用句子级别注释训练的简单模型,同时采用正则化方法,以模拟情感词汇、否定词和强度词汇的语言学角色,从而生成语言学相关的表示形式,并且能够捕捉情感、否定和强度词汇的情感转移效应,同时在不损失模型简洁性的前提下获得竞争性的结果。
Nov, 2016
该研究针对最近基于潜在树学习的神经网络模型探索,探索在非解析任务下使用解析值潜变量训练模型,用于发现可解释的树形结构,并成功在语言建模和成分句法分析领域展示了潜在树学习的实用性。
Aug, 2018
在这项研究中,我们发现情感在大型语言模型中以线性方式表示,通过因果干预,我们证明情感表示在特定方向是有因果关系的。此外,我们揭示了情感表示涉及的注意力和神经元的机制,并发现了一种名为 “summarization motif” 的现象,其中情感不仅仅在情绪化的词汇上表示,也在中性位置(如标点符号和名称)进行总结。我们还展示了在 Stanford Sentiment Treebank 的零样本分类任务中,当去除情感方向时,几乎有 36% 的总分类准确度损失是由于在逗号位置去除总结性情感方向造成的。
Oct, 2023
本文探讨了字节级循环语言模型的性质和学习特征,这些特征包括对应于高级概念的分离特征和单元,其中一个单元执行情感分析,这些在非监督学习方式下得到的表述在斯坦福情感树库的二进制子集上实现了最先进的性能,同时也具有很高的数据效率。
Apr, 2017
本文提出了一种基于树形结构的注意力神经网络模型,用于情感分类问题。该模型使用自下向上和自上而下的信息传播结合语法树中节点周围的结构信息。模型在构建句法树时,利用结构注意力识别最显著的表示。实验结果表明,该模型在斯坦福情感树库数据集上实现了最先进的性能表现。
Jan, 2017
本篇研究探究了使用不同编码器进行神经机器翻译(NMT)时,受监督 parser 预测的语言结构和拥有潜在变量的句子结构在推断神经网络执行机器翻译任务时的优化作用。结果表明,使用 RNN 编码器时,模型几乎不使用结构感知工具;相反,CNN 和基于词嵌入的编码器依赖于潜在的图表达,能够将有用的潜在依赖编码入网络,在某些情况下能够覆盖较长距离的依赖。
Jan, 2019
本文探讨了基于 Transformer 的大规模语言模型中,情感表示的内部机制以及情感分析。研究利用模型对情感分布量化,提出了针对积极、消极、决定、钦佩、焦虑和烦躁等情感的预测器,并且提出了预测分布以生成表达极端情感的句子,这些研究对思考内部机制和心理障碍的影响具有启示性。
Jul, 2023
本文提出了一个基于统计语法分析的句子级情感分类框架,在此我们发展了一个统计分析器来直接分析句子的情感结构,并在上下文自由语法的基础上形成情感规则。我们训练情感分析器 s.parser,从用户评级的大量评论句子中直接获得情感极性标签,利用情感树得到情感强度和情感极性的极性模型和最佳情感树的排名模型,结果表明该方法显著优于基准情感分类方法。
Jan, 2014
本文提出了一种基于意见树解析的模型,通过使用新的无上下文意见语法规范化意见树结构并采用神经图表意见树解析器,可以更全面更完整地显式地呈现方面级情感结构并发现情感元素之间的相关性,比现有模型更快且更优秀。
Jun, 2023