我们开发了一个评估框架，以确定大型语言模型在自动化心理健康治疗方面是否是可行和道德的前进路径，并通过人工评估和心理学研究的自动质量评估指标，比较了点对点响应者提供的回应与一种最先进的大型语言模型提供的回应。我们展示了像 GPT-4 这样的大型语言模型使用隐式和显式线索推断患者人口统计学特征，然后展示了患者子群之间存在统计上显著差异：对于黑人发帖的回应一直比其他人口统计群体的同一回应具有较低的同理心（比对照组低 2%-13%）。我们发现回应生成的方式显著影响回应的质量。最后，我们提出了大型语言模型在心理健康响应潜在部署中的安全指南。

May, 2024

近年来，大型语言模型（LLM）在数字精神健康工具设计、开发和实施领域展示了潜在的机遇和风险，我们提出了四个应用领域，包括对需要关怀的个体的求助行为、社区关怀提供、机构和医疗关怀提供，以及更大规模的社会关怀生态系统，并思考了 LLM 技术如何提升心理健康。本文的发现有助于未来研究、倡导和监管工作，以创建更负责任、用户友好、公平和安全的基于 LLM 的精神健康治疗和干预工具。

Nov, 2023

全球精神健康危机，人工智能和大型语言模型能够支持或提供心理咨询，但其应用也引发了准确性、有效性、可靠性的担忧。本文研究了大型语言模型在心理咨询中面临的主要挑战，包括模型错觉、可解释性、偏见、隐私和临床有效性，并探讨了解决这些挑战的潜在方案，以改进心理健康护理。

Nov, 2023

利用大型语言模型的能力，本研究结合人工智能和人类洞察力创建了一个详尽的情感支持对话数据集，通过递归生成方法，优化了情感支持机器人，为情感支持领域的进一步研究和实施铺平了道路。

Aug, 2023

总结和概括了大型语言模型（LLMs）在心理健康领域的应用，包括早期筛查、数字干预和其他临床应用领域的强项、限制、挑战和机遇，并指出了 LLMs 在心理健康问题检测和个性化医疗方面的有效性，同时也提出了关于文本一致性、幻觉内容和缺乏伦理框架的风险以及 LLMs 作为创新临床工具的进一步研究和发展的必要性，强调 LLMs 应该是专业心理健康服务的补充而非替代。

Feb, 2024

ChatCounselor 是一种基于真实心理咨询对话构建的大型语言模型解决方案，它拥有专业心理学知识和咨询技巧，在咨询工作中具备专门化的能力；使用心理咨询评估的七个指标作为依据，通过 GPT-4 和精心设计的提示进行训练，ChatCounselor 在实际咨询问题上的表现超越了开源模型，接近于 ChatGPT，展示了通过高质量领域特定数据获得的模型能力的显著增强。

Sep, 2023

全球心理健康问题的比例正在上升，现有的心理卫生模型已无法满足需求；大型语言模型 (LLMs) 的出现给人们带来了巨大的希望，有望创造新颖的、大规模的解决方案来支持心理健康。在这篇综述中，我们总结了现有文献关于使用 LLMs 提供心理健康教育、评估和干预的研究，重点强调了每个领域中的机遇。我们还强调了 LLMs 应用于心理健康所面临的风险，并鼓励采取策略来减轻这些风险。急需提供心理健康支持的紧迫性必须与负责任的心理健康 LLMs 的开发、测试和部署相平衡。特别重要的是，确保心理健康 LLMs 针对心理健康进行优化，增加心理健康公平性，遵守伦理标准，并确保人们，包括那些有心理健康问题经验的人，在从开发到部署的各个阶段都参与其中。优先考虑这些努力将减少对心理健康的潜在伤害，并最大程度上确保 LLMs 对全球心理健康产生积极影响。

Mar, 2024

通过四个案例研究展示了大型语言模型在医疗保健中的应用，包括分析 Reddit 上的心理健康讨论、为老年人进行认知参与开发个性化聊天机器人、总结医疗对话数据集和设计 AI 助力病患参与系统。同时讨论了在医疗保健环境中引入大型语言模型的道德考虑、最佳实践和指南。

Jun, 2024

该研究提出了 Psy-LLM 框架，这是利用大型语言模型（LLMs）进行在线心理咨询问答的基于人工智能的系统，旨在提供心理健康支持，并通过评估证明了其在生成连贯和相关答案方面的有效性。

Jul, 2023

通过分析 1252 个通话记录和对九名用户进行访谈，我们研究了具有长期记忆功能的大型语言模型驱动的语音聊天机器人 CareCall。我们发现长期记忆提高了健康信息披露并通过提供熟悉感改善了用户对聊天机器人的看法。然而，我们也观察到长期记忆对于促进自我披露存在挑战，特别是在涉及慢性疾病和隐私问题时。针对公共卫生监测，我们讨论了在大型语言模型驱动的聊天机器人中整合长期记忆的注意事项，包括在公共卫生目标下谨慎决定需要记住的主题。

Feb, 2024