Sep, 2024

基于检索增强自监督建模的心电图报告生成与问答

HTML
PDF
TL;DR本研究针对心电图（ECG）解读和报告生成的挑战，提出了ECG-ReGen，一个基于检索的方法，能够有效生成ECG文本报告并解答相关问题。该方法结合自监督学习和大型语言模型（LLM）的优化，在多项实验中表现出优越的性能，具有显著提升临床决策支持的潜力。
发现论文，激发创造
  • 从自然语言到心电图的知识迁移：我们可以通过语言模型检测心血管疾病吗？

    本文旨在将Large Language Models中的知识传递到临床心电图中，通过引入Optimal Transport生成质量高的心脏诊断报告，并且表现出与监督基线相媲美的零-shot分类性能，证明了从LLMs到心脏领域的知识转移的可行性。

    Jan, 2023

  • 冻结语言模型有助于心电图零样本学习

    该研究提出了使用机器生成的临床报告指导自我监督的心电图预训练的ECG-Text多模态自监督预训练（METS）。METS在零-shot分类中能够实现约10％的性能改善，而不使用任何带标签的数据，此外，在MIT-BIH数据集上，MET对预训练数据集的ECG和其他类别的ECG之间的相似性进行了最小化，体现了在泛化性，效果和效率方面使用ECG-Text多模态自监督学习的优势。

    Mar, 2023

  • 使用编码将ECG信号转换为图像以实现高效的图像-文本检索

    本研究介绍了一种新颖的心电图(ECG)自动识别方法，采用最近的大型语言模型(LLM)和Vision-Transformer (ViT)模型。该方法通过将ECG编码为图像并采用视觉语言学习范式来自动识别相似的临床病例，从而实现有效的ECG检索系统，可在临床应用中提供诊断服务。

    Apr, 2023

  • ECGBERT:使用自监督表示学习了解心电图(ECG)的隐藏语言

    本文提出了一种基于自我监督表示学习的方法ECGBERT，通过无监督预训练模型，缓解了医疗数据缺乏标注和筛选的问题，并在心房纤颤心律失常检测、心跳分类、睡眠呼吸暂停检测和用户认证等四个任务上展示了ECGBERT 在各种基于ECG的问题上取得最先进的结果的潜力。

    Jun, 2023

  • ECG-QA：结合心电图的全面问答数据集

    ECG-QA是第一个针对心电图分析设计的问题回答（QA）数据集，包括70个经过验证的问题模板，可用于智能QA系统的开发。

    Jun, 2023

  • 心电图指令调谐用于报告生成

    基于多模态的心电图指令调整框架，首次尝试使用LLMs处理心电图报告生成，通过与两个大规模心电图数据集上使用不同LLMs的实验来评估MEIT的性能，研究结果强调了指令调整LLMs的出色性能和其在质量报告生成、零-shot能力和对信号扰动的鲁棒性方面的潜力。

    Mar, 2024

  • 零样本心电图分类的多模态学习与测试时临床知识增强

    通过多模态学习心电图记录和相关报告，提出了一种Multimodal ECG Representation Learning (MERL)框架，可通过文本提示进行零样本心电图分类，消除对下游任务训练数据的需求，并使用LLM来利用外部专家验证的临床知识数据库，生成更具描述性的提示，提升零样本分类性能。基于MERL，在六个公共心电图数据集上进行了首次评估，显示出MERL相对于ECG自监督学习方法具有更优异的性能，平均AUC得分为75.2％，比使用10％注释训练数据的线性探测式ECG自监督学习方法高出3.2％。

    Mar, 2024

  • ECG语义集成器（ESI）：基于经过LLM增强的心脏学文本预训练的基础ECG模型

    应用深度学习于心电图分析，通过引入一种新的多模态对比预训练框架来改善学习到的12导联心电信号的质量和鲁棒性，并获得了心脏健康诊断上的高准确性和高效率。

    May, 2024

  • 基于心电图的基础模型

    通过使用自监督学习技术加强的基础模型，该研究全面分析了心电图的基础模型，并通过创新的自监督方法（生成式学习和对比学习）对超过110万个心电图样本进行了改进。定制化这些方法以符合心电图信号的复杂特征，研究成功地开发出了显著提高心脏诊断准确性和可靠性的基础模型。这些模型擅长表现心电图数据的复杂细微差别，从而显著增强了诊断能力。结果凸显了自监督增强的基础模型在临床环境中的巨大潜力，并为广泛探索其在更广泛的医学诊断领域中可扩展应用的未来研究铺平了道路。这项工作在心电图领域树立了一个标杆，展示了定制的数据驱动模型训练对医学诊断的功效和准确性的深远影响。

    Jun, 2024

  • 利用自然语言处理技术增强心电图信号分析：一种包含嵌入和自注意力的新方法

    本研究提出了一种基于嵌入和自注意力的新型心电图(ECG)分析技术，以更高效地捕捉ECG数据的空间和时间依赖关系。通过使用编码器-解码器网络来生成嵌入，对ECG信号的时间依赖性进行捕获和数据压缩。将压缩和编码后的数据作为权重输入到嵌入层中，最终使用CNN-LSTM自注意力分类器在嵌入层上对信号进行分类，以判定其是否正常。该方法在严重不平衡的PTB-xl数据集上进行了测试，重点是适当识别少数病例中存在的疾病类别，以限制误判真阴性病例的检测。在所有疾病类别上获得了91%的准确率和良好的F1得分。此外，由于数据压缩，该模型的大小减少了34%，适用于实时应用部署。

    Jul, 2024