May, 2023

ProKnow: 面向安全约束和可解释性的过程知识用于心理健康诊断辅助问答生成

PDF
TL;DR通过使用 Proknow 和具有引导作用的自然语言问答生成方法，我们基于 449 个抑郁症和焦虑症患者的诊断谈话开发出一种具有安全约束和专业知识的诊断对话数据集。我们证明了在这个数据集上使用最先进的大规模语言模型的局限性，通过明确建模安全、知识捕获和可解释性，我们的算法提高了 82％以上的生成问题的安全性、解释性和过程指导。
virtual mental health assistantsproknownatural language question generationprocess knowledgeexplainability
发现论文，激发创造
  • 基于过程知识的学习，为临床医生提供友好的解释

    通过对社交媒体数据进行分析，研究人员转向使用语言模型来评估精神健康，并引入了一种新的学习范式（PK-iL）来提供临床友好的解释，从而提高精神健康护理和预防策略的效果。

    Jun, 2023

  • 基于过程知识融合的社交媒体自杀风险评估学习

    通过引入、形式化和发展一个新的人工智能（AI）范式 —— 流程知识注入学习（PK-iL），大幅提高了深度学习算法的性能和自然语言解释能力，并为人类在现实世界中采用此技术提供了帮助。该方法构建了一个结构化的过程知识框架，明确解释了生成预测结果的底层过程，并在人类参与的定量人类评估中显示出竞争水平。

    Apr, 2022

  • 基于过程知识注入的人工智能：走向用户可解释性、可解读性和安全性

    AI 系统需要遵循专家制定的指导方针和流程，使用过程知识和领域知识，并提供用户可理解的解释，以在高价值、敏感或安全关键的应用程序中获得信任和信心.

    Jun, 2022

  • 利用过程知识学习自动化生成跟进问题以在 Reddit 帖子上进行抑郁症分流

    研究表明深度语言模型辅助的对话代理在心理健康方面具有很大潜力，用于提供信息性和治疗性服务，在抑郁症方面的实验显示控制生成问题对于精神保健评估是合适的，创造一个名为 PRIMATE 的数据集，用以培训深度语言模型。

    May, 2022

  • 利用临床实践指南的交叉注意力方法进行抑郁症诊断可解释性研究

    通过加入临床知识，PSAT 模型提出了一种解释性的人工智能方法来分析和分类临床对话，为诊断抑郁症等心理健康问题提供了应用相关的解释。

    Nov, 2023

  • 面向心理健康的可解释和安全对话代理：一项调查

    通过系统性且批判性的回顾现有的心理健康对话系统，在上下文知识、数据集和临床决策支持方面提供全面、安全、可解释和值得信赖的虚拟心理健康助手（VMHAs）。

    Apr, 2023

  • 复杂医疗问答中可解释的多步推理与知识提取

    本文提出了一种名为 MurKe 的基于多步推理和知识提取的健康问答辅助系统，以应对复杂的健康医学问题。实验结果表明，该系统在 HeadQA 数据集上能够优于几个强基线。

    Aug, 2020

  • 多阶段训练的知识感知程序文本理解

    研究了手续性文本理解的挑战，发现外部知识注入和数据不足的问题，提出了一个多阶段训练的知识感知 KOALA 模型，最终在 ProPara 和 Recipes 数据集上达到了最先进的性能表现。

    Sep, 2020

  • 知安全：基于知识和数据的人工胰腺系统危害缓解

    该研究提出了一种结合知识和数据驱动的方法，名为 KnowSafe，用于设计安全引擎，可以预测和减轻针对控制系统的安全危害，它整合了领域特定的安全约束和上下文特定的缓解措施，并结合机器学习技术来估计系统轨迹、推断潜在危害，并生成最优的纠正措施，以保持系统的安全运行。实验结果表明，KnowSafe 在预测系统状态轨迹和潜在危害方面比现有技术具有更高的准确性，低的误报率和无误报，同时在模拟的人工胰腺系统和真实世界的临床试验数据集中保持安全操作，成功减轻危害的概率为 92.8%，至少比仅基于规则的方法（50.9%）和数据驱动方法（52.7%）高出 76%。

    Nov, 2023

  • 元认知分析：对数据集和大型语言模型中的陈述性和程序性知识进行评估

    本文从新的角度为 LLMs 提供基本知识并评估其有效性，通过广泛实验得出结论：（1）在大多数任务中，声明性知识比过程性知识产生更多益处。（2）只有在简单逻辑推理任务中，过程性知识的收益才大于声明性知识。（3）随着预训练的进行和规模的增大，模型利用两种知识的能力显著提高，但速度不同。我们对这些发现进行了详细分析，为评估和增强大型语言模型提供了主要指导。

    Mar, 2024