ACLFeb, 2024

大型语言模型的心理评估：注重隐私且具有成本效益的方法

PDF
TL;DR该研究探讨使用大型语言模型（LLMs）分析 Reddit 用户的文本评论，旨在实现两个主要目标：首先，找出支持预定义心理评估自杀风险的关键摘录；其次，总结材料以证实预先分配的自杀风险水平。该研究仅限于在本地运行的 “开源” LLMs 的使用，从而增强数据隐私。此外，该研究优先考虑计算要求低的模型，使其可供具有有限计算预算的个人和机构使用。该实施策略仅依靠精心设计的提示和语法来指导 LLM 的文本补全。尽管简单，评估指标显示出卓越结果，使其成为一种重要的关注隐私和成本效益的方法。这项工作是 2024 年计算语言学和临床心理学（CLPsych）共享任务的一部分。
发现论文，激发创造
  • 大型语言模型与专家相当：识别青少年在线论坛中的心理健康因素

    儿童和青少年的心理健康在过去几年中不断恶化。大型语言模型（LLMs）的出现为监测和干预的成本和时间效率提供了很大希望。我们创建了一个 Reddit 帖子的新数据集，经过专家精神科医生的标注，用于以下类别：创伤，不稳定性，病情，症状，自杀倾向和治疗，并将专家标签与两个表现最佳的 LLMs（GPT3.5 和 GPT4）的注释进行比较。我们发现 GPT4 与人际标注者一致性的表现相当，并且合成数据的性能要高得多，但我们发现模型有时仍会在否定和事实性问题上犯错误，合成数据的更高性能是由于真实数据的复杂性而不是固有优势。

    Apr, 2024

  • 大型语言模型用于心理健康研究的系统综述

    总结和概括了大型语言模型（LLMs）在心理健康领域的应用，包括早期筛查、数字干预和其他临床应用领域的强项、限制、挑战和机遇，并指出了 LLMs 在心理健康问题检测和个性化医疗方面的有效性，同时也提出了关于文本一致性、幻觉内容和缺乏伦理框架的风险以及 LLMs 作为创新临床工具的进一步研究和发展的必要性，强调 LLMs 应该是专业心理健康服务的补充而非替代。

    Feb, 2024

  • 在心理健康护理中的大型语言模型：一项范围审查

    大语言模型在精神卫生保健中展示了广泛的应用，涵盖诊断、患者支持等方面。然而，数据可用性、精确处理心理状态和有效评估方法等问题，导致了临床适用性和伦理考虑方面的差距存在，要推动精神卫生保健中大语言模型的进一步发展，需要依靠多学科协作、数据集开发、技术精进和伦理融合等方面的全面努力。

    Jan, 2024

  • 大型语言模型：大规模隐私政策分析的新方法

    利用大型语言模型（LLM）以替代传统的自然语言处理技术，在较大规模上从隐私政策中高效准确地提取隐私做法，并实现出色的性能评估和降低成本。

    May, 2024

  • 探索 LLM 在心理应用领域的前沿：综述

    本文探索大型语言模型在心理学应用中的前沿。大型语言模型如 ChatGPT 正在改变心理学研究的方式，并在认知与行为心理学、临床与咨询心理学、教育与发展心理学以及社会与文化心理学等多个领域发挥着影响，强调了它们模拟人类认知和行为的潜力。该论文还讨论了这些模型在心理学方面的能力，提供了创新工具用于文献综述、假设生成、实验设计、实验对象选择、数据分析、学术写作和同行评审。然而，尽管大型语言模型对推进心理学研究方法至关重要，但该论文也注意到了其技术和伦理挑战，如数据隐私、在心理学研究中使用大型语言模型的伦理影响以及对这些模型局限性的更深入了解的需要。研究人员应该负责任地在心理学研究中使用大型语言模型，遵守伦理标准，并考虑在敏感领域部署这些技术的潜在后果。总之，这篇文章全面概述了大型语言模型在心理学中的现状，探讨了潜在的好处和挑战。它号召研究人员在充分利用这些模型的优势的同时，负责任地解决相关风险。

    Jan, 2024

  • MentalLLaMA: 基于大型语言模型的社交媒体可解释性心理健康分析

    开发了第一个用于社交媒体上的可解释性心理健康分析的开源语言模型系列 MentalLLaMA，并通过 IMHI 数据集在正确性和解释质量方面接近最先进的判别方法。

    Sep, 2023

  • 利用大型语言模型检测在线发布的公共威胁的效力

    利用大型语言模型（LLMs）检测在线发布的公共威胁的有效性进行了研究。各种 LLMs 被用于分类帖子为 “威胁” 或 “安全”，结果表明 LLMs 能够有效地增强人类内容审查以帮助缓解新兴的在线风险。

    Dec, 2023

  • 大型语言模型测量精神功能的能力

    通过对大语料库（Med-PaLM 2）中明确训练的大型语言模型（LLMs）的能力进行研究，本文证明了这些模型能够在没有经过训练的情况下从病人采访和临床描述中预测精神功能。结果表明，Med-PaLM 2 能够评估多种精神疾病的精神功能，其中以基于标准评估的抑郁症评分的预测性能最强（准确率范围 = 0.80-0.84），与人类临床评定人员无显著差异（t (1,144)=1.20；p=0.23）。结果显示了通用的临床语言模型在根据患者和临床医生的自由描述预测精神风险方面的潜力。

    Aug, 2023

  • Psy-LLM：利用基于 AI 的大型语言模型扩展全球心理健康心理服务

    该研究提出了 Psy-LLM 框架，这是利用大型语言模型（LLMs）进行在线心理咨询问答的基于人工智能的系统，旨在提供心理健康支持，并通过评估证明了其在生成连贯和相关答案方面的有效性。

    Jul, 2023

  • 大型语言模型在心理健康领域的机遇和风险

    全球心理健康问题的比例正在上升，现有的心理卫生模型已无法满足需求；大型语言模型 (LLMs) 的出现给人们带来了巨大的希望，有望创造新颖的、大规模的解决方案来支持心理健康。在这篇综述中，我们总结了现有文献关于使用 LLMs 提供心理健康教育、评估和干预的研究，重点强调了每个领域中的机遇。我们还强调了 LLMs 应用于心理健康所面临的风险，并鼓励采取策略来减轻这些风险。急需提供心理健康支持的紧迫性必须与负责任的心理健康 LLMs 的开发、测试和部署相平衡。特别重要的是，确保心理健康 LLMs 针对心理健康进行优化，增加心理健康公平性，遵守伦理标准，并确保人们，包括那些有心理健康问题经验的人，在从开发到部署的各个阶段都参与其中。优先考虑这些努力将减少对心理健康的潜在伤害，并最大程度上确保 LLMs 对全球心理健康产生积极影响。

    Mar, 2024