Apr, 2017

Affect-LM：用于定制情感文本生成的神经语言模型

PDF
TL;DR本文提出了一种基于 LSTM 模型的扩展 Affect-LM，用于在生成对话文本时增加情感内容的控制因素，研究表明，通过 Affect-LM 生成的自然语言句子不会破坏语法正确性。Affect-LM 学习到了区分情感的单词表达方式，迷惑度实验表明在对话文本中增加情感信息可以提高语言模型的预测效果。
发现论文，激发创造
  • 情感神经响应生成

    通过引入情感方面的三种新方法，可以改善神经会话模型的自然语言处理能力，实现更加丰富、有趣和自然的情感化响应。

    Sep, 2017

  • 对情感语言生成进行控制的语言模型适应

    本文介绍了一种使用情感驱动的文本生成模型，其能够有效地生成带有情感色彩的、主题集中的且语法正确的句子，并集成了 GPT-2 等概率文本生成模型。该模型考虑了情感类别、强度和主题的灵活性，并在自动化评估和人类研究中优于其他情感文本生成模型。

    Nov, 2020

  • 使用大型语言模型进行对话中的情感识别

    本研究探索大型语言模型 (LLMs) 在对话中识别人类情感方面的能力，重点关注开放领域闲聊对话和任务导向对话，并通过评估和比较 LLMs 在情感识别方面的性能，利用 IEMOCAP、EmoWOZ 和 DAIC-WOZ 三个不同数据集进行研究，从非零样本和少样本学习以及任务特定微调的角度探索 LLMs 的模型容量，并考虑了自动语音识别 (ASR) 错误对 LLM 预测的潜在影响。通过本研究，我们旨在阐明 LLMs 在对话中能够模拟人类情感识别能力的程度。

    Sep, 2023

  • EmoLLMs：一系列用于全面情感分析的情感大型语言模型和注释工具

    基于指令数据微调各种 LLMs 的 EmoLLMs 系列兼具情感分类和回归任务的综合情感分析模型，在各类任务中超越了现有的 LLMs、ChatGPT 和 GPT-4，具有与 ChatGPT 和 GPT-4 相当的情感分析自动化标注工具的广泛应用能力。

    Jan, 2024

  • 一种带有偏置注意力和加权交叉熵损失的情感丰富的神经对话模型

    本文提出了一种端到端情感丰富的神经对话模型，采用 VAD 注意机制将情感嵌入到每个单词中，并通过采用情感注意机制考虑了否定语和强化语的影响。最后，采用具有情感的目标函数训练模型，以产生具有情感丰富性的输出响应，得到人类的联合评估与基于困惑度的评估都优于同等规模的基线模型。

    Nov, 2018

  • 基于情感丰富嵌入和基于 Transformer 的神经语言模型的读者情感检测

    本文提出了一个名为 REDAffectiveLM 的深度学习模型的新颖方法，以从短文档中检测读者的情感，通过使用基于 transformer 预训练语言模型的上下文特定表示和情感丰富的表示形式，以及双向 LSTM + 注意。在三个数据集上进行了实证评估，相对于基线模型，我们的模型表现持续超过，可以显着提高读者情感检测的性能。

    Jan, 2023

  • 情感驱动的对话生成

    本文介绍了一种能够控制情感内容的情感驱动对话系统的方法，通过使用连续的情感表示来模拟词和句子级别的情感，并在推理过程中使用重新排名程序来获取最具情感相关性的响应。

    Apr, 2019

  • 情感建模的下一步是什么？大型语言模型

    GPT-4 可以进行情感预测和情感强度的操纵，以及通过反向评估进行目标、信念和情感的预测。然而，它不能完全取代试图建模情感相关过程的作品，尽管语言模型在情感建模中有重要作用。

    Oct, 2023

  • 基于情境背景的情感神经语言生成

    本研究提出了一种基于情感上下文的语言建模方法，可以更有效地考虑语言生成过程中的情感内容。使用 Empathetic-Dialogues 语料库进行实验，相较于现有方法，本方法在困惑度指标上提高了 5 个百分点，并获得了更高的 BLEU 指标分数。

    Nov, 2019

  • 一种基于评估的情感链式架构的情感语言模型游戏代理

    通过三个实证实验，该研究测试了大语言模型在解决情绪智能任务和模拟情绪方面的能力，并提出并评估了一种基于心理评估研究的视频游戏情绪模拟的新链式情绪架构。结果显示，在用户体验和内容分析指标上，它优于标准的大语言模型架构，从而为基于语言模型中的认知过程构建和测试情感代理提供了早期证据。

    Sep, 2023