Oct, 2023

探究大型语言模型对情绪的感知 —— 基于评估理论的研究

PDF
TL;DR通过评估应激与应对理论，本研究调查了大型语言模型对情绪感知的能力，并与人类数据进行了比较；结果显示了模型在评估和应对的动态方面类似于人类，但在某些维度上与预期不符，且其响应幅度与人类存在较大差异；此外，研究还发现模型对指令和提问方式非常敏感，从而丰富了对当前模型心理学方面的认识。
large language modelsemotion perceptionappraisal theorycoping theorypsychological aspects
发现论文，激发创造
  • 大型语言模型可以提供认知重评，如果有指导

    通过使用心理学实践中的认知重评方式，本研究设计出一种具有高级心理能力的大型语言模型，经过专家评估证实，即使是由 RESORT 引导的规模为 7B 的大型语言模型也能够生成能够帮助用户认知重评自身情况的共情回应。

    Apr, 2024

  • 感觉麻木还是有同理心？通过 EmotionBench 评估 LLMs 的感受

    利用心理学中的情感评估理论，我们提出了一种评估大型语言模型（LLMs）的同理心能力的方法，通过在具体情境中观察其感受变化。我们收集了超过 400 个情境，根据 8 种情绪将其分成 36 个因素，并进行了包含超过 1200 名全球参与者的人工评价实验。研究结果显示，尽管存在一些偏差，LLMs 总体能够适当地对特定情况做出反应，但仍然无法与人类的情绪行为建立联系。我们公开了情境数据集、人工评估结果以及我们的测试框架 EmotionBench 的代码，旨在提高 LLMs 在与人类情绪行为的对齐方面的应用价值和实用性。

    Aug, 2023

  • 情感建模的下一步是什么？大型语言模型

    GPT-4 可以进行情感预测和情感强度的操纵，以及通过反向评估进行目标、信念和情感的预测。然而，它不能完全取代试图建模情感相关过程的作品，尽管语言模型在情感建模中有重要作用。

    Oct, 2023

  • ChatGPT 是谁？利用 PsychoBench 评估 LLM 的心理描绘

    该研究提出了一个评估 LLMs 不同心理方面的框架 PsychoBench，其中包括了四个明确分类的部分：人格特征、人际关系、动机测试和情绪能力。研究使用了五个常用模型进行测试，并采用了越狱方法绕过安全对齐协议，测试了 LLMs 的内在特性。

    Oct, 2023

  • 一种基于评估的情感链式架构的情感语言模型游戏代理

    通过三个实证实验，该研究测试了大语言模型在解决情绪智能任务和模拟情绪方面的能力，并提出并评估了一种基于心理评估研究的视频游戏情绪模拟的新链式情绪架构。结果显示，在用户体验和内容分析指标上，它优于标准的大语言模型架构，从而为基于语言模型中的认知过程构建和测试情感代理提供了早期证据。

    Sep, 2023

  • 大型语言模型中崭露细粒度情感处理能力

    本文研究了大型语言模型（尤其是生成预训练变压器）在各种语言相关任务上显示出的令人印象深刻的结果。我们探索了 ChatGPT 仅通过提示就能够执行情感计算任务的零点能力。我们显示 ChatGPT a）能够在价值、唤起和支配维度上执行有意义的情绪分析，b）在情绪类别和这些情感维度方面具有有意义的情感表示，以及 c）可以根据基于提示的 OCC 评估模型的计算实现，对情况进行基本的评估引发情绪的操作。这些发现具有很高的相关性：首先，它们表明解决复杂的情感处理任务的能力源于对广泛数据集进行基于语言的标记预测的训练。其次，它们显示了大型语言模型模拟、处理和分析人类情绪的潜力，这对于诸如情感分析、社交互动代理和社交机器人等各种应用具有重要意义。

    Sep, 2023

  • 利用大型语言模型的共情回应生成能力支持在线心理健康咨询

    本研究通过比较五款大型语言模型（LLMs）生成的相应和传统对话系统及人工生成的相应，发现 LLMs 在大多数情景中表现出更高的同理心，从而探索并验证 LLMs 在模拟心理咨询对话中生成同理心回应的能力。

    Oct, 2023

  • 大型语言模型评估情绪的主观认知评估

    心理学研究中关于情感的复杂过程涉及生理和认知评估方面；虽然情境可以导致不同的情感经验，但是对于认知评估的自动预测却没有多少研究。本研究填补了这一空白，提出了 CovidET-Appraisals 数据集，该数据集是迄今为止最全面的数据集，对 241 个 Reddit 帖子中的 24 个评估维度进行了评估，并提供了自然语言的解释。CovidET-Appraisals 是评估大型语言模型在自动评估和解释认知评估方面能力的理想测试平台。研究结果显示，在这一任务上，尽管最好的模型表现出色，但开源的大型语言模型在此任务中表现不佳，为情感智能模型的未来发展提出了新的挑战。我们在此链接分享了我们的数据集 https URL。

    Oct, 2023

  • 利用大型语言模型的潜力进行共情回应的生成：实证研究和改进

    大型语言模型在培养有同理心的对话、构建和谐社会关系以及发展有帮助的人工智能方面具有至关重要的作用。本研究通过实证调查了大型语言模型在生成有同理心的回应方面的性能，并提出了三种改进方法：语义上下文学习、两阶段交互生成和与知识库的结合。广泛的实验证明，我们的方法能够显著改善大型语言模型的性能，在自动评估和人工评估方面达到最先进的水平。此外，我们还探索了 GPT-4 模型模拟人工评估者的可能性。

    Oct, 2023

  • 大型语言模型的情绪智能

    本研究评估了大型语言模型（LLMs）的情感智能，特别关注情感理解，通过心理测量评估实现，发现大部分 LLMs 的情商高于人类平均水平并超过了某些特定质量以人为中心的模型，同时探讨了模型大小、训练方法和架构等因素对 LLMs 情感智能的影响。

    Jul, 2023