儿童和青少年的心理健康在过去几年中不断恶化。大型语言模型（LLMs）的出现为监测和干预的成本和时间效率提供了很大希望。我们创建了一个 Reddit 帖子的新数据集，经过专家精神科医生的标注，用于以下类别：创伤，不稳定性，病情，症状，自杀倾向和治疗，并将专家标签与两个表现最佳的 LLMs（GPT3.5 和 GPT4）的注释进行比较。我们发现 GPT4 与人际标注者一致性的表现相当，并且合成数据的性能要高得多，但我们发现模型有时仍会在否定和事实性问题上犯错误，合成数据的更高性能是由于真实数据的复杂性而不是固有优势。

Apr, 2024

该研究探讨使用大型语言模型（LLMs）分析 Reddit 用户的文本评论，旨在实现两个主要目标：首先，找出支持预定义心理评估自杀风险的关键摘录；其次，总结材料以证实预先分配的自杀风险水平。该研究仅限于在本地运行的 “开源” LLMs 的使用，从而增强数据隐私。此外，该研究优先考虑计算要求低的模型，使其可供具有有限计算预算的个人和机构使用。该实施策略仅依靠精心设计的提示和语法来指导 LLM 的文本补全。尽管简单，评估指标显示出卓越结果，使其成为一种重要的关注隐私和成本效益的方法。这项工作是 2024 年计算语言学和临床心理学（CLPsych）共享任务的一部分。

Feb, 2024

通过开发深度学习模型以及使用中国社交媒体数据集，本研究提出了一种用于细粒度自杀风险分类的方法，为社交媒体平台上自动识别自杀倾向的个体并及时进行干预提供了有价值的见解。

Apr, 2024

使用生成式人工智能模型，如 ChatGPT、Flan-T5 和 Llama，通过利用社会因素从心理学文献中提取的数据，创造了可用于自杀倾向检测的合成数据，结果表明这种方法在克服数据匮乏和数据表征多样性等领域主要挑战方面具有潜力。

Jan, 2024

本文研究了如何使用深度学习算法来检测社交媒体上的自杀意念，并评估了不同数据集和深度学习模型的性能。研究证实，使用深度学习对社交媒体上的自杀意念检测效果较好，但其表现高度依赖于数据集的质量。

Jun, 2022

为了进一步推动大型语言模型的安全部署，我们开发了一个中文 LLM 安全评估基准。我们的基准从八种典型的安全场景和六种更具挑战性的指令攻击等两个方面探索了 LLMs 的综合安全表现，并对 OpenAI GPT 系列和其他知名的中文 LLMs 等共 15 个 LLMs 进行了安全评估并分析了一些有趣的发现，公开发布了 100k 个增强测试用例和 LLMs 生成的响应。

Apr, 2023

我们评估了多种模型，包括传统机器学习模型、预训练语言模型和大型语言模型，比较它们在社交媒体健康相关自然语言处理任务中的性能。实验结果表明，使用大型语言模型进行数据增强可以获得比仅使用人工标注数据训练的模型更好的结果，并且传统的有监督学习模型在零样本设置中也表现出优于大型语言模型的性能。

Mar, 2024

通过深度学习多任务学习框架对多种病情进行建模，包括性别预测作为附加任务，实现对自杀风险和心理健康状况的低误诊率预测，且该多任务学习模型在狭窄训练数据的心理健康任务上也获得了显著的提升。

Dec, 2017

通过结合预训练语言模型和手动构建的自杀线索集合，我们提出了一个模型来实现自杀风险的自动检测，从而在紧急支持在线服务中支持自杀预防。该模型在跨性别与不同年龄组等多个方面表现良好，并在会话早期就明显优于强基线模型。

Sep, 2022

本研究使用社交媒体数据，旨在提取认知路径并创建一个文本概述任务以帮助心理治疗师更好地进行在线干预，结果表明深度学习方法在层次化文本分类任务中获得了 62.34% 的微平均 F1 分数，而 GPT-4 模型在文本概述任务中表现优于实验深度学习模型，但可能存在生成虚构信息的问题。

Apr, 2024