Feb, 2024
大型语言模型能成为良好的情感支持者吗？在情感支持对话中缓解偏好偏差
Can Large Language Models be Good Emotional Supporter? Mitigating Preference Bias on Emotional Support Conversation
Dongjin Kang, Sunghwan Kim, Taeyoon Kwon, Seungjun Moon, Hyunsouk Cho...
TL;DR情感支持对话（ESC）是通过日常对话来缓解个人情感困扰的任务。本研究分析了大型语言模型（LLMs）在 ESConv 上的结果，揭示了挑选正确策略的挑战和对特定策略的显著偏好。通过对 LLMs 内在偏好对情感支持的影响进行探索，发现对特定策略的高偏好阻碍了有效的情感支持，导致其在预测适当策略方面的鲁棒性进一步加剧。此外，我们进行了一项方法论研究，为 LLMs 成为优秀情感支持者提供了见解。研究结果强调了（1）对特定策略的低偏好阻碍了情感支持的进展，（2）外部辅助有助于减少偏好偏差，以及（3）单靠 LLMs 无法成为优秀情感支持者。这些发现为增强 LLMs 的情感智能提供了有前景的研究方向。