Oct, 2023

利用现成大型语言模型进行自动临床编码

PDF
TL;DR利用大型预训练生成语言模型开发出零样本和少样本编码分配的实用解决方案，通过信息提取，利用 ICD 本体论和专业临床编码任务描述，检索相关提及，并利用 GPT-4 在第二阶段进行元细化，实现了自动 ICD 编码的方法，无需任务特定的学习，而在更稀缺的类别上达到了最优的性能。
icd codesautomated icd codinglarge language modelsinformation extractionmeta-refinement
发现论文，激发创造
  • 用两阶段方法超越 GPT-4 医学编码

    用大型语言模型进行临床决策支持和医疗编码任务，提出 LLM-codex 方法，通过两个阶段生成证据提案和基于 LSTM 的验证阶段，同时实现医疗编码精度、稀有编码准确性和句级证据识别的最新结果，无需依赖人工标注的数据证据。

    Nov, 2023

  • 使用预训练语言模型进行自动 ICD 编码

    本文旨在分析预训练语言模型在自动 ICD 编码任务上表现不佳的原因，并提出了 PLMICD 框架来克服该问题，实验证明该框架在 ICD 编码任务上能够取得最先进的性能。

    Jul, 2022

  • 探索 LLM 多智能体用于 ICD 编码

    本文介绍了一种新颖的基于多智能体方法的 ICD 编码方法，模仿真实世界的编码过程，并使用基于大型语言模型的模型进行编码。通过在 MIMIC-III 数据集上进行评估，我们展示了我们提出的多智能体编码框架在常见和罕见代码方面相对于零样本 CoT 提示和 CoT 的自一致性有显著的性能提升。消融研究证实了提出的智能体角色的有效性。我们的方法在编码准确性、罕见代码准确性和可解释性方面也达到了需要预训练或微调的 ICD 编码方法的最新水平。

    Apr, 2024

  • 利用深度学习实现自动化 ICD 编码

    本文提出了一种具有注意力机制的分层深度学习模型，该模型可以根据诊断描述自动分配 ICD 诊断代码。实验结果表明，我们的深度学习模型能够在合理的范围内自动编码，并为计算机辅助 ICD 编码提供了框架。

    Nov, 2017

  • 通过关注多种标签嵌入进行准确和良好校准的 ICD 编码分配

    该论文描述了一种新颖的自动 ICD 编码方法，结合了先前相关工作的几个思想。我们特别采用一种强大的基于 Transformer 的文本编码模型，并针对冗长的临床叙述，探索了将基本编码模型调整为 Longformer，或者将文本分成块并独立处理的方法。编码器产生的表示与标签嵌入机制相结合，探索了多样的 ICD 编码同义词。通过使用 MIMIC-III 数据集的不同拆分进行实验，结果显示提出的方法在 ICD 编码方面优于当前最先进的模型，并且标签嵌入显著促成了良好的性能。该方法还导致适当校准的分类结果，可以有效地用于下游任务如数量化。

    Feb, 2024

  • BERT-XML：利用 BERT 预训练进行大规模自动 ICD 编码

    该研究提出了一种名为 BERT-XML 的机器学习模型，利用最近发展的无监督预训练，从电子病历中自动化地进行 ICD 编码，利用数百万电子病历笔记训练了一个 BERT 模型以预测数千个独特的 ICD 代码。

    May, 2020

  • 利用大型语言模型对历史死因数据进行编码

    本研究探讨了使用预训练的生成型大语言模型 (GPT-3.5、GPT-4 和 Llama 2) 自动分配历史死因的 ICD-10 编码的可行性。研究结果显示，虽然 GPT-3.5、GPT-4 和 Llama 2 对于今天仍在使用的术语和短短的死因描述表现更好，但它们在历史 ICD-10 编码任务中的准确性仍然不足，建议进一步微调或采用其他框架以达到足够的性能。

    May, 2024

  • 基于 Prompt 的多标记少样本 ICD 编码自回归生成

    本研究旨在解决将多标签分类任务转变为自回归生成任务的长尾挑战，通过引入新颖的生成自由文本的预训练目标，生成低维度的文本描述，从而推断出 ICD 代码，实验结果表明我们所提出的模型实现了新的 SOTA 表现，并设计了一种新的交叉关注再排序器来集成先前的 SOTA 和我们最佳的少样本编码预测。

    Nov, 2022

  • 基于树型对比学习的半结构化自动 ICD 编码研究

    通过研究调查临床记录的半结构化性质，我们提出了一种自动算法将其分割为不同的部分。为了解决现有 ICD 编码模型在数据有限性方面的可变性问题，我们引入了对于部分使用基于树编辑距离的软多标签相似度度量的对比预训练方法。此外，我们设计了一个掩码部分训练策略，使 ICD 编码模型能够定位与 ICD 编码相关的部分。广泛的实验结果表明，我们提出的训练策略有效地提升了现有 ICD 编码方法的性能。

    Oct, 2023

  • 知识注入的提示式微调，用于多标签少样本 ICD 编码

    本研究通过适应具有标签语义的提示微调技术以及注入三种特定于医学领域的知识（层次结构、同义词和缩写）的预训练来解决自动 ICD 编码中的长尾挑战，并在 MIMIC-III-full 数据集上取得了 14.5％的性能提升，并且在 MIMIC-III-rare50 数据集的微调情况下提高了宏 F1 和微 F1。

    Oct, 2022