Sep, 2023

双向对话中的情感解读：通过句子嵌入利用语义相似性

PDF
TL;DR利用句子嵌入在分析动态交互和预测交谈参与者情感方面的应用尚未广泛探索。本研究使用婚姻夫妇之间关于冲突和愉快活动的口头对话，应用基于 Transformer 的模型 all-MiniLM-L6-v2 获取说话者话语的嵌入，并通过嵌入的余弦相似度计算对话的整体相似度。结果显示语义相似性与妻子在冲突对话中的情感呈正相关，但在愉快对话中则不然。此外，无论对话类型如何，这种关联并未观察到丈夫的情感。通过两次验证检查进一步支持相似度测量的有效性，并证明观察到的模式不仅仅是数据的附属现象。本研究强调了句子嵌入在理解人际动态与个体情感之间关联的潜力，为情感和关系科学的创新应用铺平了道路。
发现论文，激发创造
  • 情感神经响应生成

    通过引入情感方面的三种新方法，可以改善神经会话模型的自然语言处理能力，实现更加丰富、有趣和自然的情感化响应。

    Sep, 2017

  • 评估语义变化的句子嵌入模型的比较研究

    分析语义变化的模式在长篇实际文本（如书籍或记录）中是有趣的，从文体、认知和语言的角度来看。这项研究也对应用领域，如文本分段、文档摘要和语义新颖性检测是有用的。本文通过时间序列的语义相似性以及多本文学作品的两两句子相似性矩阵比较了几种最近的句子嵌入方法。与以前使用目标任务和精心策划的数据集比较句子嵌入方法的研究不同，我们的方法提供了对方法在现实情境的评估。我们发现，大部分句子嵌入方法确实能够在给定文档中推断出高度相关的语义相似性模式，但也存在有趣的差异。

    Aug, 2023

  • 从对话学习语义文本相似度

    本论文通过学习使用对话数据学习句子级语义相似性的新方法，利用无监督模型预测对话输入响应对以训练，导出的句子嵌入在语义文本相似性基准测试和 SemEval 2017 的 CQA 问题相似性子任务上表现良好。通过介绍同时进行对话输入响应预测任务和自然语言推理任务的多任务训练来进一步改善性能。广泛的实验显示，所提出的模型在 STS 基准测试中达到了所有神经模型中最佳性能，并且在两个任务中的工程特征和混合系统方面与最先进的混合系统竞争。

    Apr, 2018

  • 在词嵌入中表示情感信息

    本文研究了使用大规模语言模型所获得的单词嵌入中是否编码了某些情感信息。研究发现，只有在情感相关任务上微调 BERT 模型，或在情感丰富的上下文中包含额外的上下文信息时，相应的词嵌入才能编码更相关的情感信息。

    Sep, 2022

  • 词嵌入中语义关系的时态动态：预测武装冲突参与者的应用

    本文介绍了一种使用词嵌入模型跟踪词对之间语义关系的时间动态的方法，采用增量学习和预测建模，并在乌普萨拉武装冲突数据集上评估了该方法的可行性和效果。

    Jul, 2017

  • 实体为中心的情感语境分析

    通过使用上下文化单词嵌入，我们可以捕捉人物形象中的情感维度，并比较男女形象的差异。虽然这些单词嵌入编码了有意义的情感信息，但受其训练数据的影响严重限制了它们的实用性。

    Jun, 2019

  • 探索嵌入技术以衡量文本相关性：揭示在线评论中的情感和关系

    由于一次导致互联网使用增长 70% 的大流行病，全球范围内使用社交媒体的人数大幅增加。本研究通过使用词嵌入来分析评论中的组成部分和文档，调查了不同社交媒体平台上的情感和语义关系，论述了共享意见在这些不同媒体平台之间的重要性，为研究人员、政治家和商业代表提供跟踪全球用户共享情绪的路径。本研究呈现了多种测量从这些热门在线平台上提取的文本相关性的方法，通过利用捕捉语义关系的词嵌入来分析网络上的情感，我们可以揭示公众舆论作为一个整体的联系。该研究利用了来自 YouTube、Reddit、Twitter 等的现有数据集，并利用了像双向编码器表征来自变形器（BERT）等热门自然语言处理模型来分析情感和探索评论嵌入之间的关系。此外，我们还将利用聚类和 Kl 散度来发现不同社交媒体平台上这些评论嵌入之间的语义关系。我们的分析将使人们更加深入地了解在线评论之间的相互关联，并探讨互联网作为一个庞大的相互连接的大脑的概念。

    Sep, 2023

  • 基于 Transformer 的大语料库语义相似度分析的认知研究

    本文利用传统技术和转换器技术对美国专利短语进行语义相似性分析和建模，并对 Decoding Enhanced BERT（DeBERTa）的四种不同变体进行实验，在此基础上通过 K 次交叉验证提高性能，实验结果表明我们的方法比传统技术更具有优越性，平均 Pearson 相关系数为 0.79。

    Jul, 2022

  • 基于 Bert 的上下文对词相似度影响的精准预测模型

    本文主要探讨了一种分析语境对相似词人类感知影响的方法，使用多种方式计算 BERT 生成的双向编码器表示法的两个嵌入向量之间的距离，研究组在 SemEval 2020 的任务三中赢得了芬兰语语言赛道的第一名和英语语言赛道的第二名。

    May, 2020

  • 一种带有偏置注意力和加权交叉熵损失的情感丰富的神经对话模型

    本文提出了一种端到端情感丰富的神经对话模型，采用 VAD 注意机制将情感嵌入到每个单词中，并通过采用情感注意机制考虑了否定语和强化语的影响。最后，采用具有情感的目标函数训练模型，以产生具有情感丰富性的输出响应，得到人类的联合评估与基于困惑度的评估都优于同等规模的基线模型。

    Nov, 2018