Oct, 2022

使用分层注意力和 Transformer 的阿尔茨海默病诊断和生成聊天机器人

PDF
TL;DR本文提出了一个自然语言处理的架构，该架构可以处理以往需要两个模型完成的任务。通过单一模型，我们分析阿尔茨海默病患者的语言模式和对话上下文，并从两个结果中得出答案：患者分类和聊天机器人。如果聊天机器人在日常生活中识别了患者的语言特征，医生可以为早期诊断制定更精确的诊断和治疗计划。该模型用于开发替代需要专家问卷的聊天机器人。模型执行两个自然语言处理任务：一是 “自然语言分类”，指示患者是否患病的概率，二是生成聊天机器人接下来的 “回答”。通过自我注意神经网络提取患者发言的上下文向量，在编码器中将其与聊天机器人的问题一起输入，以获取包含提问者和患者之间交互特征的矩阵。矢量化的矩阵成为患者分类的概率值。将矩阵与聊天机器人（调解员）下一个答案一起输入到解码器中，以生成下一个发言。通过使用 DmentiaBank 的 cookie theft 描述语料库学习该结构，证实了编码器和解码器的损失函数值显著降低和收敛。这表明，捕捉阿尔茨海默病患者的言语语言模式可以为将来的早期诊断和疾病纵向研究做出贡献。
natural language processingalzheimer's diseasechatbotpatient classificationearly diagnosis
发现论文，激发创造
  • 自然语言处理技术在自发言语中预测阿尔茨海默病方面的比较

    该研究使用 Spontaneous Speech 数据集文本转录，使用多种模型对 AD 和正常人的分类和预测进行训练和评估。结果表明，使用 TF-IDF 向量化器作为输入的 SVM 模型和使用 ' DistilBERT ' 的预训练模型作为简单线性模型的嵌入层的模型表现最佳，在分类指标上展示了测试集得分为 0.81-0.82 和 RMSE 为 4.58 的结果。

    Jun, 2020

  • 从语音和文本多模态检测阿尔茨海默病

    使用多模式深度学习方法通过语音和相应的文本同时检测多种言语段落的诊断，其模型在 Dementiabank Pitt 语料库上获得了 85.3% 的准确率。

    Nov, 2020

  • ChatGPT 与 Bard 在检测阿尔茨海默病痴呆方面的性能评估

    LLM chatbots (ChatGPT-3.5, ChatGPT-4, and Bard) were assessed for their ability to recognize Alzheimer's Dementia and Cognitively Normal individuals using spontaneous speech recordings, showing promising performance but not yet suitable for clinical application.

    Jan, 2024

  • 通过解释神经模型来检测阿尔茨海默病的语言特征

    本文使用 NLP 技术对 DementiaBank 数据集中 Alzheimer's 病人的语言特征进行分类和分析，利用 CNN、LSTM-RNN 和两者的组合进行分类，识别语言样本，获得了 AD 识别任务的新的独立基准精度。最后通过激活聚类和导数显著性技术分析神经网络的学习特征，自动发现激活簇内不同语法模式，进一步阐述了 AD 患者的语言特征，揭示了神经网络模型的局限性。

    Apr, 2018

  • 自动检测阿尔茨海默病的可解释卷积神经网络（C-Attention Network）

    本文提出了三种可解释的深度学习体系结构，基于患者的语言能力自动检测阿尔茨海默病患者。这些体系结构使用词性特征、语言嵌入特征或这两种特征的统一体系结构，并使用自注意机制和可解释的一维卷积神经网络生成模型操作的两种类型解释：类内解释和类间解释。通过大量实验证明，该方法在 DementiaBank 数据集上的准确率为 92.2％，F1 分数为 0.952，同时能够生成解释。

    Jun, 2020

  • INESC-ID 多模态系统 - ADReSS 2020 挑战赛

    本文利用多模态方法，结合语音和文本特征，提出了自动检测阿尔茨海默病的分类框架，并发现语言特征对于阿尔茨海默病的分类比声学特征更为重要，能够提高分类准确率。

    May, 2020

  • 为痴呆症检测增加有针对性的特征的神经模型

    本研究采用基于 CNN-LSTM 体系结构的神经模型，使用定向和隐式学习的方法从对话转录中学习，从而检测阿尔茨海默病及相关痴呆疾病的存在，实现了对 DementiaBank 数据集的新的最先进性能，将参与者分类为 AD 和对照组的 F1 分数达到 0.929。

    Jun, 2019

  • 利用具备自然语言处理能力的娱乐聊天机器人进行老年人认知障碍的自动检测

    提出了一种智能对话系统，用于娱乐老年人并通过聊天对话阶段评估认知能力，并通过机器学习算法检测认知障碍，从而实现自动化的认知障碍检测方法。

    May, 2024

  • 使用 Transformer 模型的有条件生成聊天机器人

    本文深入探讨了 Chabot 生成器及其生成的答案精度不足的挑战问题，并提出了一种新的端到端架构，利用 Wasserstein 生成敌对网络和变压器模型，同时在生成器和鉴别器模型中使用嵌入式变压器，以提高 Chabot 应答的准确性。实验结果表明，相比于现有的技术，该架构更加优越，尤其是在对于 Cornell 电影对话语料库和 Chit-Chat 数据集上的表现中体现更加明显。

    Jun, 2023

  • 使用基于语音与基于语言的方法比较在阿尔茨海默病检测中使用 BERT 模型的必要性

    这篇研究论文探讨了如何通过自然语言处理和机器学习等方法，借助 Alzheimer's disease 相关数据集，提高人类认知障碍的检测准确性，与传统检测方法相比，使用 fine-tuned BERT 模型在 Alzheimer's disease 检测任务上具有更好的表现。

    Jul, 2020