通过使用上下文化单词嵌入,我们可以捕捉人物形象中的情感维度,并比较男女形象的差异。虽然这些单词嵌入编码了有意义的情感信息,但受其训练数据的影响严重限制了它们的实用性。
Jun, 2019
通过引入情感方面的三种新方法,可以改善神经会话模型的自然语言处理能力,实现更加丰富、有趣和自然的情感化响应。
Sep, 2017
本文提出了一种端到端情感丰富的神经对话模型,采用 VAD 注意机制将情感嵌入到每个单词中,并通过采用情感注意机制考虑了否定语和强化语的影响。最后,采用具有情感的目标函数训练模型,以产生具有情感丰富性的输出响应,得到人类的联合评估与基于困惑度的评估都优于同等规模的基线模型。
Nov, 2018
本文提出了一个名为 REDAffectiveLM 的深度学习模型的新颖方法,以从短文档中检测读者的情感,通过使用基于 transformer 预训练语言模型的上下文特定表示和情感丰富的表示形式,以及双向 LSTM + 注意。在三个数据集上进行了实证评估,相对于基线模型,我们的模型表现持续超过,可以显着提高读者情感检测的性能。
Jan, 2023
本文针对大型预训练语言模型中的偏差问题进行调研,分析了偏差发生在模型的哪些阶段以及如何量化和减轻影响。尤其是针对情感相关的偏差问题进行了探讨,旨在提供未来研究的参考和挑战。
Apr, 2022
提出了一种名为 Aff2Vec 的模型,利用词嵌入技术实现情感语言的表示,并在同义词和情感词汇方面取得了更好的结果,其在情感分析、人格检测和挫败预测等自然语言理解任务中优于基线模型。
May, 2018
本研究主要通过对情感极性和同义词 / 反义词关系的评估,比较不同嵌入方法之间的质量差异,并探讨嵌入空间中维数的多少以及每个维度的分辨率对 NLP 任务的影响。结果表明嵌入方法在不考虑句子结构的情况下可以捕捉到非常微妙的语义,而确定嵌入方法的质量和特性对最终结果具有重要影响。
Jan, 2013
本文研究了使用银行特定语料库构建的词嵌入,相对于使用文本语料库构建的 Word2Vec 或 BERT 嵌入,银行特定语料库的嵌入在银行特定语义和词相关性的捕捉方面表现更好,因此可能成为银行业特定 NLP 任务的一种有效数据源。
Jun, 2023
本文探讨了自然语言处理中的一项工作,基于 BERT 嵌入空间来评估英语单词的多义和同音词意义之间的相关性。发现使用 BERT 嵌入模型能够在意义表示上更加清晰地捕捉多义性和同音词意的潜在结构,具有潜在的应用价值。
Oct, 2020
本文提出了一种基于 LSTM 模型的扩展 Affect-LM,用于在生成对话文本时增加情感内容的控制因素,研究表明,通过 Affect-LM 生成的自然语言句子不会破坏语法正确性。Affect-LM 学习到了区分情感的单词表达方式,迷惑度实验表明在对话文本中增加情感信息可以提高语言模型的预测效果。
Apr, 2017