Nov, 2023

同理心之链：基于心理治疗模型提升大型语言模型的同理心反应

PDF
TL;DR我们提出了一种新颖的方法 —— 共情链（CoE）提示法，利用来自心理治疗学的见解来引导大型语言模型（LLM）对人类的情感状态进行推理。通过采用认知行为治疗（CBT）、辩证行为治疗（DBT）、人本主义治疗（PCT）和现实疗法（RT）等不同心理治疗方法，我们发现 LLM 在没有推理的情况下主要产生探索性的回应，而当 LLM 使用共情链推理时，我们发现其生成了更全面的同理回应，与每种心理治疗模型的不同推理模式相一致。CBT 基于的 CoE 方法生成了最平衡的同理回应，该研究强调了理解情感背景及其如何影响人类和人工智能沟通的重要性。我们的研究有助于了解将心理治疗模型纳入 LLM 的方式，促进特定环境、更安全和富有同理心的人工智能的发展。
chain of empathylarge language modelspsychotherapyhuman emotional statesai communication
发现论文，激发创造
  • 利用大型语言模型的潜力进行共情回应的生成：实证研究和改进

    大型语言模型在培养有同理心的对话、构建和谐社会关系以及发展有帮助的人工智能方面具有至关重要的作用。本研究通过实证调查了大型语言模型在生成有同理心的回应方面的性能，并提出了三种改进方法：语义上下文学习、两阶段交互生成和与知识库的结合。广泛的实验证明，我们的方法能够显著改善大型语言模型的性能，在自动评估和人工评估方面达到最先进的水平。此外，我们还探索了 GPT-4 模型模拟人工评估者的可能性。

    Oct, 2023

  • 利用大型语言模型的共情回应生成能力支持在线心理健康咨询

    本研究通过比较五款大型语言模型（LLMs）生成的相应和传统对话系统及人工生成的相应，发现 LLMs 在大多数情景中表现出更高的同理心，从而探索并验证 LLMs 在模拟心理咨询对话中生成同理心回应的能力。

    Oct, 2023

  • 大型语言模型可以提供认知重评，如果有指导

    通过使用心理学实践中的认知重评方式，本研究设计出一种具有高级心理能力的大型语言模型，经过专家评估证实，即使是由 RESORT 引导的规模为 7B 的大型语言模型也能够生成能够帮助用户认知重评自身情况的共情回应。

    Apr, 2024

  • 通过情感思维链条增强大型语言模型的情感生成能力

    提出了 Emotional Chain-of-Thought (ECoT) 方法，利用人类情感智能准则提升大型语言模型（LLMs）在情感生成任务中的性能；通过自动化模型评估方法 EGS 验证了 ECoT 的可靠性，并展示了其有效性；讨论了 LLMs 在情感分析领域的潜力，以及 LLMs 与 ECoT 在情感生成任务中的关键见解。

    Jan, 2024

  • 大型语言模型产生被认为是有同理心的回应

    大型语言模型（LLMs）在许多任务中表现出了令人惊讶的性能，包括撰写表达共情的支持性信息。我们在这里让这些模型生成对描述常见生活经历的帖子的共情信息，例如职场环境、育儿、人际关系和其他引发焦虑和愤怒的情境。通过两项研究（N=192，202），我们向人类评估者展示了几个模型（GPT4 Turbo、Llama2 和 Mistral）生成的各种回应，并要求他们评估这些回应的共情程度。我们发现 LLM 生成的回应在共情程度上一直被评为比人工撰写的回应更具共情性。语言分析还表明，这些模型在标点符号、表情符号和某些词语的使用方面具有独特、可预测的 “风格”。这些结果凸显了在强调共情的情境中利用 LLMs 提升人类同伴支持的潜力。

    Mar, 2024

  • 交互链条：通过二元环境增强精神行为理解的大型语言模型

    使用链式交互提示方法，将大型语言模型应用于心理治疗行为编码，从而实现了预测患者状态和支持决策的目标，该方法可在真实环境中有效地运用于实践。

    Mar, 2024

  • ChainLM: 通过改进思维连贯性促进大型语言模型的能力

    Chain-of-Thought 提示可以增强大型语言模型（LLMs）的推理能力，现有的 CoT 综合方法针对简单推理任务，导致 CoT 提示的质量低且不一致。为了应对这一挑战，我们进行了 CoT 提示的实证研究并引入了 CoTGenius，一个用于自动生成优质 CoT 提示的新框架。我们进一步采用 CoTGenius 创建了一个广泛的 CoT 数据集，并在该数据集上对 Llama 2-Chat 7B 和 13B 模型进行了微调，得到了 ChainLM 模型。为了解决推理步骤中的累积误差问题，我们提出了一种步骤级辩论方法，其中多个辩论者讨论每个推理步骤，得出正确答案。大量实验证明，与现有模型相比，我们的 ChainLM 模型在解决一系列复杂推理问题方面表现出更高的熟练度。此外，我们对 CoTGenius 中的数据类别对模型性能的影响进行了深入分析。我们在此 https URL 上发布了我们的数据集和代码。

    Mar, 2024

  • 将生理数据与大型语言模型集成用于共情的人工智能与人类交互

    通过将生理数据与大型语言模型（LLMs）相结合，探索增强共情的方法。我们提出了一种生理计算方法，包括开发利用生理数据识别心理状态的深度学习模型，并将预测的状态与 LLMs 集成以进行共情交互。我们展示了这种方法在一个基于共情 LLM 聊天机器人用于压力监测和控制的应用。我们还讨论了一项副研究的结果，评估该 EmLLM 聊天机器人准确预测用户压力、提供类人回应以及评估与用户的治疗联盟的能力。

    Apr, 2024

  • 思想交流：通过模型协作提升大型语言模型的能力

    通过链式推理技术，大型语言模型（LLMs）在复杂推理任务中取得了显著进展。然而，它们的推理常常受到内在理解的局限，缺乏外部洞察力。为了解决这个问题，我们提出了一种名为 “交换思路（EoT）” 的新框架，它在问题解决过程中实现了跨模型通信。EoT 从网络拓扑中汲取灵感，整合了四种独特的通信范式：记忆、报告、中继和辩论。本文深入探讨了每种范式所涉及的通信动态和通信量。为了平衡不正确推理链的风险，我们在这些通信中实现了一个健壮的置信度评估机制。我们对各种复杂推理任务进行的实验表明，EoT 明显超过了已有的基线方法，凸显了外部洞察力在增强 LLM 性能方面的价值。此外，我们还展示了 EoT 以一种具有成本效益的方式实现这些卓越结果，标志着高效而协同的人工智能问题解决的有望发展。

    Dec, 2023

  • SoulChat: 通过微调多轮同理心对话，提升 LLMs 的同理心、倾听和安慰能力

    通过使用多轮对话历史记录和更接近心理咨询师表达方式的回复进行微调，可以显著增强大型语言模型在心理辅导领域的共情能力。

    Nov, 2023