利用图神经网络嵌入临床代码和文本的多视图联合学习框架

Jan, 2023

利用图神经网络嵌入临床代码和文本的多视图联合学习框架

A Multi-View Joint Learning Framework for Embedding Clinical Codes and Text Using Graph Neural Networks

Lecheng Kong, Christopher King, Bradley Fritz, Yixin Chen

TL;DR本文提出了一种多视图学习框架，结合 ICD 代码和文本以提高临床机器学习应用的性能，采用图神经网络（GNN）和 Bi-LSTM 处理输入信息，并应用深度典型相关分析（DCCA）来强制实现两个视图的相似表示。实验结果表明，本方法在临床和多样文本应用中都具有良好的性能。

Abstract

Learning to represent free text is a core task in many clinical machine learning (ML) applications, as clinical text contains observations and plans not otherwise available for inference. State-of-the-art methods use large language models developed with immense computational resources and training data; however, applying these models is challenging because o

clinical machine learning free text representation multi-view learning framework icd codes graph neural network

发现论文，激发创造

通过关注多种标签嵌入进行准确和良好校准的 ICD 编码分配

该论文描述了一种新颖的自动 ICD 编码方法，结合了先前相关工作的几个思想。我们特别采用一种强大的基于 Transformer 的文本编码模型，并针对冗长的临床叙述，探索了将基本编码模型调整为 Longformer，或者将文本分成块并独立处理的方法。编码器产生的表示与标签嵌入机制相结合，探索了多样的 ICD 编码同义词。通过使用 MIMIC-III 数据集的不同拆分进行实验，结果显示提出的方法在 ICD 编码方面优于当前最先进的模型，并且标签嵌入显著促成了良好的性能。该方法还导致适当校准的分类结果，可以有效地用于下游任务如数量化。

Feb, 2024

临床文本中医疗代码的可解释预测

本文提出了一种使用卷积神经网络和注意力机制对临床文本进行医学编码的方法，并展示了该方法在精度和可解释性方面的优势。

Feb, 2018

ICDBigBird: 一种基于上下文嵌入模型的 ICD 码分类模型

本文介绍 ICDBigBird，一种基于 BigBird 模型的方法，可以将图卷积网络（GCN）与一个可以处理更大文档的 BigBird 上下文模型相结合，以创造出其嵌入的 'enriched' 描述，实验结果表明，ICDBigBird 在 ICD 分类任务上具有显著的优势。

Apr, 2022

多语言结构化放射学报告的知识图谱嵌入

我们引入了一种新颖的轻量级基于图的嵌入方法，特别适用于放射学报告，通过多语言 SNOMED 临床术语知识库连接报告中的医学术语，揭示了临床术语之间的潜在关系，实现了更好地理解和临床准确性的表示，而不依赖于大规模预训练数据集。我们展示了这种嵌入方法在 X 光报告的疾病分类和图像分类两个任务上的应用，并且相较于基于 BERT 的模型，在体积和训练数据需求方面要小得多。同时，我们展示了图嵌入方法如何利用跨模态知识传递，在不同语言之间具有可用性。

Sep, 2023

通过标签内部对齐有效预测医学代码

本论文提出了一种基于多视角注意力的神经网络用于从临床文本中预测医疗代码，该方法通过融合临床文本语义上下文、标签（医疗代码）空间的关系以及每对临床文本和医疗代码之间的对齐来实现，经实验证明，在开源数据集上获得了优秀的性能表现。

May, 2023

利用现成大型语言模型进行自动临床编码

利用大型预训练生成语言模型开发出零样本和少样本编码分配的实用解决方案，通过信息提取，利用 ICD 本体论和专业临床编码任务描述，检索相关提及，并利用 GPT-4 在第二阶段进行元细化，实现了自动 ICD 编码的方法，无需任务特定的学习，而在更稀缺的类别上达到了最优的性能。

Oct, 2023

为临床 ICD 编码建模时间文档序列

本研究提出一种基于层次变压器架构的 ICD 编码方法，使用病人整个住院期间的所有临床笔记进行编码，并结合文本元数据嵌入，如位置，时间和笔记类型等，在使用 MIMIC-III 数据集进行测试时，模型在仅使用出院摘要作为输入时超越了以前的最佳表现，并在使用所有临床笔记作为输入时实现了进一步的表现提升。

Feb, 2023

基于多视角卷积和描述规范的标签依赖注意力医疗编码预测

本文提出了一种基于深度学习的系统，通过使用视图卷积通道和基于自然语言代码描述的注意力规则等技术，取得了针对医疗文本编码的新进展，显著优于先前最佳结果，困难在于有数千个罕见代码。

Nov, 2018

层次标签关注网络和标签嵌入初始化的临床笔记可解释自动编码

本文提出了一种层次化标签注意力网络（HLAN）和标签嵌入（LE）初始化方法，旨在提高自动化医学编码的性能并改善深度学习模型的可解释性，在使用 MIMIC-III 出院摘要进行实验后，结果表明 HLAN 在预测排名前 50 个编码时实现了最佳的微观级别 AUC 和 F1，对于每个标签突出显示最显著的单词和句子，相对于基线和 CNN 模型，HLAN 显示出更具有意义和全面的模型解释。LE 初始化一致提升大多数深度学习模型的性能。

Oct, 2020

一种基于注意力机制的临床文本 ICD 编码标签模型

本文提出了一种新的标签关注模型和层级联合学习机制，可自动处理 ICD 编码和解决类别不平衡问题，并取得了三个基准 MIMIC 数据集的最新技术成果。

Jul, 2020