Mar, 2021

TransICD：基于 Transformer 编码注意力模型的可解释 ICD 编码

PDF
TL;DR本研究采用基于 Transformer 的模型架构和标签分布感知的边界（LDAM）损失函数来预测医疗文本的诊断编码，在 MIMIC-III 数据集上测试表明，该模型在预测精度上优于双向循环神经网络，并且通过采用编码特定的关注机制，能够为临床医生提供更可靠的诊断建议。
icd coding proceduremachine learningtransformer-based architecturecode-wise attention mechanismlabel distribution aware margin loss function
发现论文，激发创造
  • 用于可解释 ICD 编码的层级标签关注 Transformer 模型

    本文提出了一种基于层次化标签关注 Transformer 模型（HiLAT）的方法，用于从医疗文件中解释预测 ICD 代码。研究结果表明 HiLAT 与 ClinicalplusXLNet 相比在 MIMIC-III 中的前五十个 ICD-9 代码的 F1 得分更高，且关注权重的可视化表现出潜在的解释性工具。

    Apr, 2022

  • 通过关注多种标签嵌入进行准确和良好校准的 ICD 编码分配

    该论文描述了一种新颖的自动 ICD 编码方法，结合了先前相关工作的几个思想。我们特别采用一种强大的基于 Transformer 的文本编码模型，并针对冗长的临床叙述，探索了将基本编码模型调整为 Longformer，或者将文本分成块并独立处理的方法。编码器产生的表示与标签嵌入机制相结合，探索了多样的 ICD 编码同义词。通过使用 MIMIC-III 数据集的不同拆分进行实验，结果显示提出的方法在 ICD 编码方面优于当前最先进的模型，并且标签嵌入显著促成了良好的性能。该方法还导致适当校准的分类结果，可以有效地用于下游任务如数量化。

    Feb, 2024

  • 使用基于分区标签注意力的自动 ICD 编码网络

    本论文提出一种新的神经网络架构，用于自动 ICD 编码，它包含两种编码器和两种标签注意层，分别从输入中提取重要的全局和局部特征表示，有效地提高了性能。我们在 MIMIC-III 数据集上验证了所提出方法的有效性。

    Nov, 2022

  • 一种基于注意力机制的临床文本 ICD 编码标签模型

    本文提出了一种新的标签关注模型和层级联合学习机制，可自动处理 ICD 编码和解决类别不平衡问题，并取得了三个基准 MIMIC 数据集的最新技术成果。

    Jul, 2020

  • 利用深度学习实现自动化 ICD 编码

    本文提出了一种具有注意力机制的分层深度学习模型，该模型可以根据诊断描述自动分配 ICD 诊断代码。实验结果表明，我们的深度学习模型能够在合理的范围内自动编码，并为计算机辅助 ICD 编码提供了框架。

    Nov, 2017

  • 基于描述的标签注意力分类器用于可解释 ICD-9 分类

    研究了多标签 ICD-9 自动编码方法，提出了一种基于描述 - 标签的注意力分类器，通过不同的 transformer-based 编码器在 MIMIC-III-50 数据集上评估，达到了强大的结果和可解释性。

    Sep, 2021

  • 层次标签关注网络和标签嵌入初始化的临床笔记可解释自动编码

    本文提出了一种层次化标签注意力网络（HLAN）和标签嵌入（LE）初始化方法，旨在提高自动化医学编码的性能并改善深度学习模型的可解释性，在使用 MIMIC-III 出院摘要进行实验后，结果表明 HLAN 在预测排名前 50 个编码时实现了最佳的微观级别 AUC 和 F1，对于每个标签突出显示最显著的单词和句子，相对于基线和 CNN 模型，HLAN 显示出更具有意义和全面的模型解释。LE 初始化一致提升大多数深度学习模型的性能。

    Oct, 2020

  • 基于 BERT 的自动 ICD 编码：限制与机遇

    本研究使用 PubMedBERT，探究了自动 ICD 编码任务的性能。研究表明，目前的 BERT 模型在处理长文本时存在困难，提出更好的信息汇聚方法是改进 ICD 编码的主要需要。

    Apr, 2021

  • 利用现成大型语言模型进行自动临床编码

    利用大型预训练生成语言模型开发出零样本和少样本编码分配的实用解决方案，通过信息提取，利用 ICD 本体论和专业临床编码任务描述，检索相关提及，并利用 GPT-4 在第二阶段进行元细化，实现了自动 ICD 编码的方法，无需任务特定的学习，而在更稀缺的类别上达到了最优的性能。

    Oct, 2023

  • TreeMAN: 增强树型多模态注意力网络用于 ICD 编码

    本研究提出了一种基于 Tree-enhanced Multimodal Attention Network (TreeMAN) 的方法，将 EHR 中的结构化医疗数据和文本特征融合成多模态表示。通过决策树学习，TreeMAN 能够更好地捕捉 ICD 编码的决定性信息。实验证明，该方法优于现有 ICD 编码方法。

    May, 2023