通过离线强化学习，我们利用决策变压器架构在患者和心理健康专业人员之间的咨询对话中进行主题推荐，展示了优于基准强化学习方法的改进，并提出了一种新的系统来利用我们模型的输出作为相同任务的大型语言模型的合成标签进行微调。

May, 2024

本文探讨了大型语言模型在心理咨询中的应用，通过专用提示信息来提高其在提供共情、相关和支持性回应方面的性能，研究结果表明我们的训练模型优于几个基线模型，凸显其作为可扩展且易于获取的心理健康支持工具的潜力。

Jun, 2024

我们提出了一个新颖的框架来评估大型语言模型（LLMs）的细致对话能力，将其应用于心理健康领域，并发现 GPT4 Turbo 在特定主题上表现出与经过验证的治疗师高度相关的成绩，从而帮助研究人员开发更好的 LLMs 以更积极地支持人们的生活。

Mar, 2024

评估大型语言模型在理解人类心理健康状况表达方面的潜力，结果显示，基于 Transformer 的模型（如 BERT 和 XLNet）在 DAIC-WOZ 数据集上表现优于大型语言模型。

Jan, 2024

本研究探讨了大型语言模型（LLM）在改进基于流水线的对话代理中的能力，并通过私人银行业务的实例证明了 LLMs 的潜力和公司采用混合方法的好处。

Sep, 2023

通过 AlexanderStreet therapy 的领域特定辅助指令和改进的预训练 LLMs 方法，本研究在心理治疗任务中实现了预训练 LLMs 的卓越性能，提供更多的心理治疗知识。

Apr, 2024

本研究通过分析大型语言模型（LLMs）在理解人际对话时的注意机制变化，对与网络内容、代码和数学文本的三种使用情况进行了分析。研究表明，对话数据具有长期上下文关系的细致处理和通过注意力模式的高复杂性等独特挑战。我们的研究结果显示，虽然语言模型表现出领域特定的注意行为，但在专攻人类对话方面仍存在显著差距。通过详细的注意熵分析和 t-SNE 可视化，我们展示了训练于多样且高质量对话数据的模型，以提升对人类对话的理解和生成。这项研究强调了语言模型领域专长的重要性，并提出了未来建模人类对话细微差别的途径。

Mar, 2024

本论文提出了一个系统化的分类方法，将 LLMs 领域专业化技术分类，并讨论了适用于这些技术的关键应用领域的问题和前景，对当前研究状态和未来趋势进行了深入剖析。

May, 2023

评估大语言模型在教育中的功效，特别是在口语学习领域，引入新的多选题数据集评估模型在理解和应用口语知识方面的表现，研究不同提示技术对模型性能的影响，发现模型在音韵学、语音学和第二语言习得方面具有良好的概念理解，但在解决现实世界问题的推理方面存在限制，并初步探讨了对话交流的发现。

Aug, 2023

ChatCounselor 是一种基于真实心理咨询对话构建的大型语言模型解决方案，它拥有专业心理学知识和咨询技巧，在咨询工作中具备专门化的能力；使用心理咨询评估的七个指标作为依据，通过 GPT-4 和精心设计的提示进行训练，ChatCounselor 在实际咨询问题上的表现超越了开源模型，接近于 ChatGPT，展示了通过高质量领域特定数据获得的模型能力的显著增强。

Sep, 2023