评估人工智能代理的共情能力
本文旨在研究和评估现有的衡量和评估共情能力的工作,以及迄今为止已经收集和使用的数据集,以通过比较它们的性能来突出和促进人工共情领域的最新方法的使用,以便帮助人工共情领域的研究者选择精准的方法。
Sep, 2023
本文提出了一种名为 EMP-EVAL 的自动衡量共情的方法,该方法结合了情感、认知和情感共情,能够减少人工评估的需求并且与人类判断具有可比性。实验结果表明,我们的指标可以与人类喜好相关联。
Jan, 2023
深入调查自然语言处理对同理心的影响,发现缺乏明确的同理心定义与过度强调情感同理心导致构建有效性与可重复性不足,提出需要以认知同理心为核心的定义来指导同理心在 NLP 研究领域的应用,并探寻该领域的被忽视的机遇。
Oct, 2022
该研究论文基于人类中心设计视角,探索了人工智能在发展人类中心设计中的未来方向,特别关注了人类设计者理解人类需求的能力。论文通过研究数据驱动的用户研究、共情理解的发展以及人工共情等研究领域,提出了人工共情框架,旨在将共情这一相对复杂且主观的概念分解成模块,以期提高人类设计者的共情能力。该论文指出了该框架的预期益处,并鼓励未来的研究工作。
Mar, 2023
本文提出了第一个公开可用的用于检测共情能力预测的标准,采用单项量表的方法可靠捕捉了作者对共情能力的评估,同时也是第一个区分多种共情形式的计算模型,实验表明 CNN 模型表现最佳。
Aug, 2018
我们系统地收集并筛选了 10 个著名数据库中的 801 篇论文,并对选中的 54 篇论文进行了分析。我们将这些论文根据共情检测系统的输入模态(文本、视听、音频和生理信号)进行分组,并对模态特定的预处理和网络架构设计协议、常用数据集描述和可用性细节以及评估协议进行了研究。我们进一步讨论了基于情感计算的共情领域的潜在应用、部署挑战和研究空白,这可以促进新的研究方向。我们相信我们的工作是发展一个包含隐私保护和无偏见、具有文化、多样性和多语言性的共情系统的垫脚石,可以在实践中提高人类生活的整体福祉。
Oct, 2023
本文介绍了一种基于计算方法的框架来理解在线心理健康平台上的情感表达,通过收集和共享大量语料来训练 RoBERTa-based bi-encoder 模型,成功识别出含有改善情感的会话,揭示用户无法通过自我学习获得改善情感能力,为情感培训和反馈提供机会。
Sep, 2020
AI 对齐研究旨在保证机器的独立行为始终符合伦理,本文认为尽管常常被忽视,但共情对此任务而言是必要的,我们提出了一个从内而外的方法,通过将道德放置于脑的背景下作为算法理解伦理和共情的基础,通过对相关文献的调查,证明了这些论证,文章以建议未来研究的实验方法和一些初步实验观察作为结论。
Dec, 2023
通过一个基于情境特定情感模仿和透视技巧的冰川熊虚拟角色,我们介绍了一种计算机移情干预,研究了愤怒和移情如何影响人们解决创意问题的表现,并发现计算机移情可以抵消愤怒对创意问题解决的负面影响,从而提供了严谨、实证的证据证明了计算机移情可以反转愤怒对创意问题解决的负面影响。
Aug, 2022
本篇论文讨论了采用 AI 帮助情绪调节,在回应用户的情绪时,应当谨慎并考虑如何应对用户的情绪,以避免其对用户和社会产生负面影响,而不仅仅关注负面情绪的缓解。
Dec, 2022