Sep, 2023

多语言结构化放射学报告的知识图谱嵌入

PDF
TL;DR我们引入了一种新颖的轻量级基于图的嵌入方法，特别适用于放射学报告，通过多语言 SNOMED 临床术语知识库连接报告中的医学术语，揭示了临床术语之间的潜在关系，实现了更好地理解和临床准确性的表示，而不依赖于大规模预训练数据集。我们展示了这种嵌入方法在 X 光报告的疾病分类和图像分类两个任务上的应用，并且相较于基于 BERT 的模型，在体积和训练数据需求方面要小得多。同时，我们展示了图嵌入方法如何利用跨模态知识传递，在不同语言之间具有可用性。
发现论文，激发创造
  • 当放射学报告生成遇见知识图谱

    本文介绍了使用预构建图嵌入模块（图卷积神经网络建模）来辅助放射图像报告生成的方法，该方法可以对多种疾病发现进行专门的特征学习并建立它们之间的关系，同时提出了用于医学图像报告的新的评估指标，并在公开数据集（IU-RR）上展示了该方法的优异性能。

    Feb, 2020

  • 生物医学知识图谱嵌入的基准与最佳实践

    利用知识图谱嵌入学习方法，探索在 SNOMED-CT 知识图谱中学习生物医学知识表征的能力，提供性能测试及最佳实践，并强调利用知识图谱多关系特性学习知识表征的重要性。

    Jun, 2020

  • 基于 BERT 的临床知识提取用于生物医学知识图谱构建和分析

    本研究提出了使用 BERT 模型和条件随机场层从临床记录中提取和分析生物医学知识的端到端方法，包括自然语言处理模型用于命名实体识别和关系提取等步骤，可以用于构建医学知识图谱并用于问题解答。实验结果表明，该方法对于 505 位真实患者的生物医学非结构化临床记录的命名实体识别和关系提取的准确率分别为 90.7% 和 88%。

    Apr, 2023

  • 医学语言嵌入的知识转移

    该研究使用分布语义学将结构化知识图谱与非结构化文本相结合，利用概率生成模型预测医学概念之间的新关系，进一步证明该方法可用于医学领域的数据稀缺性问题。

    Feb, 2016

  • 利用知识图谱将领域知识融入医疗自然语言推理

    本文研究如何将医学语言模型（BioELMo）的结构与医学任务中可用的知识图谱（UMLS）进行融合，通过实验验证结论表明融合策略不仅仅是可以改善 MedNLI 数据集上的 BioELMo 模型的基线表现，而且在医疗领域的任务中也导致了最前沿的结果。

    Aug, 2019

  • 基于临床记录抽取的不同表征模型评估死亡率预测

    本研究基于 Transformers 预训练的语言表示学习方法，将特定医学记录中的信息提取，映射到标准词汇中，并在医院死亡预测任务中测试不同输入格式的性能，结果表明使用提取的唯一概念和标准名称作为输入可以获得更好的性能。

    Jul, 2022

  • 基于 BERT 语言模型的标注医学影像报告和信息提取结果的新语料库

    介绍了一个包含 609 个注释放射学报告的语料库，用于医学影像诊断，利用两种基于 BERT 的架构，提取事件信息和规范化概念，为二次应用提供结构化的语义表示。

    Mar, 2024

  • UmlsBERT: 使用统一医学语言系统词表增强上下文嵌入的临床领域知识

    UmlsBERT is a contextual embedding model for biomedical natural language processing that integrates domain knowledge during pre-training via a novel knowledge augmentation strategy, outperforming existing models on named-entity recognition and clinical natural language inference tasks.

    Oct, 2020

  • 自监督上下文语言表征用于放射学报告，以提高通信紧急性识别

    本文利用 BERT 模型在无标注大语料库中预训练生成上下文表示，进而构建医学无标注文本的自监督学习模型提高判别医学报告的信息提示等级，并取得了显著性能优于 Word2vec 模型的效果。

    Dec, 2019

  • UMLS-KGI-BERT: 基于数据中心的转换器中的生物医学实体识别知识集成

    通过从 UMLS 中提取文本序列，该工作为丰富生物医学变压器编码器的语言表示做出了数据为中心的范例贡献，从而将基于图的学习目标与掩码语言预训练相结合，初步实验结果表明该框架提高了多个生物医学和临床命名实体识别任务的下游性能。

    Jul, 2023