我们开发了一个评估框架，以确定大型语言模型在自动化心理健康治疗方面是否是可行和道德的前进路径，并通过人工评估和心理学研究的自动质量评估指标，比较了点对点响应者提供的回应与一种最先进的大型语言模型提供的回应。我们展示了像 GPT-4 这样的大型语言模型使用隐式和显式线索推断患者人口统计学特征，然后展示了患者子群之间存在统计上显著差异：对于黑人发帖的回应一直比其他人口统计群体的同一回应具有较低的同理心（比对照组低 2%-13%）。我们发现回应生成的方式显著影响回应的质量。最后，我们提出了大型语言模型在心理健康响应潜在部署中的安全指南。

May, 2024

全球精神健康危机，人工智能和大型语言模型能够支持或提供心理咨询，但其应用也引发了准确性、有效性、可靠性的担忧。本文研究了大型语言模型在心理咨询中面临的主要挑战，包括模型错觉、可解释性、偏见、隐私和临床有效性，并探讨了解决这些挑战的潜在方案，以改进心理健康护理。

Nov, 2023

近年来，大型语言模型（LLM）在数字精神健康工具设计、开发和实施领域展示了潜在的机遇和风险，我们提出了四个应用领域，包括对需要关怀的个体的求助行为、社区关怀提供、机构和医疗关怀提供，以及更大规模的社会关怀生态系统，并思考了 LLM 技术如何提升心理健康。本文的发现有助于未来研究、倡导和监管工作，以创建更负责任、用户友好、公平和安全的基于 LLM 的精神健康治疗和干预工具。

Nov, 2023

本文提出 SafeguardGPT 框架，使用精神疗法纠正聊天机器人中具有潜在危害的行为，使得 AI chatbots 可以学习并适应人类喜好和价值观，以更安全、可靠和道德的方式，促进更加以人为中心和负责任的 AI 的发展。

Apr, 2023

本文旨在帮助构建与大规模语言模型相关的风险场景。我们总结了 LMs 可能面临的各种风险，如歧视、错误信息、自动化等，并提出了应对方法和未来研究方向。

Dec, 2021

全球心理健康问题的比例正在上升，现有的心理卫生模型已无法满足需求；大型语言模型 (LLMs) 的出现给人们带来了巨大的希望，有望创造新颖的、大规模的解决方案来支持心理健康。在这篇综述中，我们总结了现有文献关于使用 LLMs 提供心理健康教育、评估和干预的研究，重点强调了每个领域中的机遇。我们还强调了 LLMs 应用于心理健康所面临的风险，并鼓励采取策略来减轻这些风险。急需提供心理健康支持的紧迫性必须与负责任的心理健康 LLMs 的开发、测试和部署相平衡。特别重要的是，确保心理健康 LLMs 针对心理健康进行优化，增加心理健康公平性，遵守伦理标准，并确保人们，包括那些有心理健康问题经验的人，在从开发到部署的各个阶段都参与其中。优先考虑这些努力将减少对心理健康的潜在伤害，并最大程度上确保 LLMs 对全球心理健康产生积极影响。

Mar, 2024

通过引入多方面的方法，包括过滤敏感词汇、检测角色扮演、实施自定义规则引擎和扩展到各种大型语言模型衍生物，我们解决了大型语言模型在道德、安全和隐私方面的挑战，并且保持了高性能。这项研究为平衡问答系统的效率与用户隐私和道德标准提供了一个框架，确保了更安全的用户体验并增加了对 AI 技术的信任。

Jan, 2024

本文介绍了 MentalBERT 和 MentalRoBERTa 两种针对精神保健领域预训练的掩码语言模型，并对其和其他预训练语言模型在几个精神障碍检测基准测试中进行了评估，证明针对目标领域预训练的语言表示有助于提高精神健康检测任务的性能。

Oct, 2021

该研究探讨引起关注的生成式语言模型在教育领域可能产生的心理社会危害，分析了与学生课堂互动相关的 15 万个 100 字的故事中生成式语言模型所产生的角色人口统计学和再现伤害，强调了生成式人工智能工具在多样化社会环境中部署和使用时对于具有边缘化和少数族裔身份的用户体验可能产生的心理社会影响的重要性。

May, 2024

使用 QA 方法和统一 QA 模型在两个大型的精神健康数据集上评估心理健康风险，并通过差分隐私来保护用户数据，结果表明在精神健康用例中将风险评估建模为 QA 任务具有良好的性能，为隐私保护诊断系统的发展提供了一个有前途的研究方向。

Jun, 2023