May, 2024

AI是否能相似地感知：测试大型语言模型对精神健康支持的响应

HTML
PDF
TL;DR我们开发了一个评估框架，以确定大型语言模型在自动化心理健康治疗方面是否是可行和道德的前进路径，并通过人工评估和心理学研究的自动质量评估指标，比较了点对点响应者提供的回应与一种最先进的大型语言模型提供的回应。我们展示了像GPT-4这样的大型语言模型使用隐式和显式线索推断患者人口统计学特征，然后展示了患者子群之间存在统计上显著差异：对于黑人发帖的回应一直比其他人口统计群体的同一回应具有较低的同理心（比对照组低2%-13%）。我们发现回应生成的方式显著影响回应的质量。最后，我们提出了大型语言模型在心理健康响应潜在部署中的安全指南。
发现论文，激发创造
  • 利用大型语言模型的共情回应生成能力支持在线心理健康咨询

    本研究通过比较五款大型语言模型（LLMs）生成的相应和传统对话系统及人工生成的相应，发现LLMs在大多数情景中表现出更高的同理心，从而探索并验证LLMs在模拟心理咨询对话中生成同理心回应的能力。

    Oct, 2023

  • 关于在心理健康应用中重新思考大型语言模型

    大型语言模型在心理健康方面表现出很大的潜力，但使用它们时需要保持谨慎和考虑，把它们视为辅助人类专业技术而非替代品，因为它们可能产生幻觉般的输出，并且在心理健康咨询中，人类辅导员的情感理解、细致解读和背景意识仍然不可替代。

    Nov, 2023

  • 大型语言模型在心理健康咨询中的挑战

    全球精神健康危机，人工智能和大型语言模型能够支持或提供心理咨询，但其应用也引发了准确性、有效性、可靠性的担忧。本文研究了大型语言模型在心理咨询中面临的主要挑战，包括模型错觉、可解释性、偏见、隐私和临床有效性，并探讨了解决这些挑战的潜在方案，以改进心理健康护理。

    Nov, 2023

  • 大型语言模型在数字精神健康中的益处与危害

    近年来，大型语言模型（LLM）在数字精神健康工具设计、开发和实施领域展示了潜在的机遇和风险，我们提出了四个应用领域，包括对需要关怀的个体的求助行为、社区关怀提供、机构和医疗关怀提供，以及更大规模的社会关怀生态系统，并思考了LLM技术如何提升心理健康。本文的发现有助于未来研究、倡导和监管工作，以创建更负责任、用户友好、公平和安全的基于LLM的精神健康治疗和干预工具。

    Nov, 2023

  • LLM治疗师行为评估的计算框架

    我们提出了一种名为BOLT的新型计算框架，用于研究大型语言模型（LLMs）在担任治疗师角色时的对话行为。我们开发了一种上下文学习方法，定量测量LLMs的行为，基于包括反映、提问、解决方案、正常化和心理教育在内的13种不同的心理治疗技术。我们通过比较LLM治疗师与高、低质量人类治疗师的行为，并研究如何调整其行为以更好地体现高质量治疗中观察到的行为，发现LLMs的行为更接近低质量治疗，需要进一步研究来确保质量治疗。

    Jan, 2024

  • 打字疗法：大型语言模型聊天机器人在心理健康支持方面的经验

    通过对来自不同国家背景的21位个体进行访谈，我们调查了使用LLM聊天机器人进行心理健康支持的人们的亲身经历，并对用户如何为他们的聊天机器人创造独特的支持角色、填补日常护理的空白以及在寻求聊天机器人支持时如何应对相关的文化限制进行了分析。我们将分析基于心理治疗文献中有效支持的概念，并介绍了治疗性对齐的概念，即将人工智能与心理健康背景下的治疗价值对齐。我们的研究为设计师如何以道德且有效的方式应对LLM聊天机器人和其他人工智能心理健康支持工具在心理健康护理中的使用提供了建议。

    Jan, 2024

  • 一个用于心理健康中大型语言模型的新颖细致对话评估框架

    我们提出了一个新颖的框架来评估大型语言模型（LLMs）的细致对话能力，将其应用于心理健康领域，并发现GPT4 Turbo在特定主题上表现出与经过验证的治疗师高度相关的成绩，从而帮助研究人员开发更好的LLMs以更积极地支持人们的生活。

    Mar, 2024

  • 大型语言模型用于心理健康研究的系统综述

    总结和概括了大型语言模型（LLMs）在心理健康领域的应用，包括早期筛查、数字干预和其他临床应用领域的强项、限制、挑战和机遇，并指出了LLMs在心理健康问题检测和个性化医疗方面的有效性，同时也提出了关于文本一致性、幻觉内容和缺乏伦理框架的风险以及LLMs作为创新临床工具的进一步研究和发展的必要性，强调LLMs应该是专业心理健康服务的补充而非替代。

    Feb, 2024

  • 构建心理健康聊天机器人的信任：安全性指标和基于大型语言模型的评估工具

    本研究解决了心理健康聊天机器人的安全性和可靠性评估的不足，提出了一种包含100个基准问题和理想回应的评估框架，并通过心理健康专家的验证。研究显示，采用实时数据访问的代理方法在评估准确性上优于其他方法，为心理健康聊天机器人的安全性和可靠性提供了显著提升的方案。

    Aug, 2024

  • 将大型语言模型应用于心理健康护理：人类评估生成任务的范围审查

    本文研究了大型语言模型（LLMs）在心理健康护理中的应用，评估其在人类参与者中的有效性及临床适用性。研究发现，尽管LLMs在扩展心理健康护理服务方面具有潜力，但多数研究方法不标准，并且缺乏对隐私、安全和公平性的深入探索，表明需要更严格的评估和伦理监督以确保其安全有效地整合入临床实践。

    Aug, 2024