AAAINov, 2018

一种带有偏置注意力和加权交叉熵损失的情感丰富的神经对话模型

PDF
TL;DR本文提出了一种端到端情感丰富的神经对话模型，采用 VAD 注意机制将情感嵌入到每个单词中，并通过采用情感注意机制考虑了否定语和强化语的影响。最后，采用具有情感的目标函数训练模型，以产生具有情感丰富性的输出响应，得到人类的联合评估与基于困惑度的评估都优于同等规模的基线模型。
affectneural conversational modelvadaffective attention mechanismobjective function
发现论文，激发创造
  • 情感神经响应生成

    通过引入情感方面的三种新方法，可以改善神经会话模型的自然语言处理能力，实现更加丰富、有趣和自然的情感化响应。

    Sep, 2017

  • 情感驱动的对话生成

    本文介绍了一种能够控制情感内容的情感驱动对话系统的方法，通过使用连续的情感表示来模拟词和句子级别的情感，并在推理过程中使用重新排名程序来获取最具情感相关性的响应。

    Apr, 2019

  • Affect-LM：用于定制情感文本生成的神经语言模型

    本文提出了一种基于 LSTM 模型的扩展 Affect-LM，用于在生成对话文本时增加情感内容的控制因素，研究表明，通过 Affect-LM 生成的自然语言句子不会破坏语法正确性。Affect-LM 学习到了区分情感的单词表达方式，迷惑度实验表明在对话文本中增加情感信息可以提高语言模型的预测效果。

    Apr, 2017

  • 使用大型语言模型进行对话中的情感识别

    本研究探索大型语言模型 (LLMs) 在对话中识别人类情感方面的能力，重点关注开放领域闲聊对话和任务导向对话，并通过评估和比较 LLMs 在情感识别方面的性能，利用 IEMOCAP、EmoWOZ 和 DAIC-WOZ 三个不同数据集进行研究，从非零样本和少样本学习以及任务特定微调的角度探索 LLMs 的模型容量，并考虑了自动语音识别 (ASR) 错误对 LLM 预测的潜在影响。通过本研究，我们旨在阐明 LLMs 在对话中能够模拟人类情感识别能力的程度。

    Sep, 2023

  • Aff2Vec：情感丰富的分布式词语表示

    提出了一种名为 Aff2Vec 的模型，利用词嵌入技术实现情感语言的表示，并在同义词和情感词汇方面取得了更好的结果，其在情感分析、人格检测和挫败预测等自然语言理解任务中优于基线模型。

    May, 2018

  • 情感社交人形智能系统

    本文提出了一种智能虚拟助手，可通过情感语义解释人类语音情感， 并且通过声音风格转移和人工生成方法生成特定情感的声波，使得与之互动的人有更好的体验。

    Apr, 2023

  • 在词嵌入中表示情感信息

    本文研究了使用大规模语言模型所获得的单词嵌入中是否编码了某些情感信息。研究发现，只有在情感相关任务上微调 BERT 模型，或在情感丰富的上下文中包含额外的上下文信息时，相应的词嵌入才能编码更相关的情感信息。

    Sep, 2022

  • 对情感语言生成进行控制的语言模型适应

    本文介绍了一种使用情感驱动的文本生成模型，其能够有效地生成带有情感色彩的、主题集中的且语法正确的句子，并集成了 GPT-2 等概率文本生成模型。该模型考虑了情感类别、强度和主题的灵活性，并在自动化评估和人类研究中优于其他情感文本生成模型。

    Nov, 2020

  • 基于情感丰富嵌入和基于 Transformer 的神经语言模型的读者情感检测

    本文提出了一个名为 REDAffectiveLM 的深度学习模型的新颖方法，以从短文档中检测读者的情感，通过使用基于 transformer 预训练语言模型的上下文特定表示和情感丰富的表示形式，以及双向 LSTM + 注意。在三个数据集上进行了实证评估，相对于基线模型，我们的模型表现持续超过，可以显着提高读者情感检测的性能。

    Jan, 2023

  • 实体为中心的情感语境分析

    通过使用上下文化单词嵌入，我们可以捕捉人物形象中的情感维度，并比较男女形象的差异。虽然这些单词嵌入编码了有意义的情感信息，但受其训练数据的影响严重限制了它们的实用性。

    Jun, 2019