使用 GPT-J 与 RoBERTa 进行 NER 模型在电子牙科记录中的牙周诊断抽取
利用文本处理和自然语言处理模型来挖掘临床笔记以诊断牙周炎,并评估命名实体识别模型在不同正则表达式方法上的性能。研究表明,随着正则表达式算法复杂度的增加,F1 分数从 0.3-0.4 增加到约 0.9。命名实体识别模型在评估指标中表现出优异的预测能力,简单的正则表达式方法达到 0.84-0.92,高级和组合方法达到 0.95-0.99。该研究以提供将命名实体识别方法和自然语言处理模型相结合从自由文本中提取目标信息并填补诊断遗漏的需求为例。
Nov, 2023
本研究借助新型提示学习方法,将 ChatGPT 模型用于罕见病实体识别当中并与传统微调方法对比,发现在一些罕见疾病和征象实体的识别方面,ChatGPT 能够在只提供一个标记样本的情况下与传统微调方法相媲美,为罕见疾病的诊断和治疗提供了新的可能,但研究人员和临床医生应该审慎对待模型输出并清楚了解其局限性。
Jun, 2023
本研究旨在探究以零注释方式进行临床命名实体识别任务中,OpenAI 开发的大型语言模型 ChatGPT 以两种不同提示策略的潜力。我们将其与 GPT-3 在类似的零注释情况下进行比较,以及使用来自 MTSamples 的一组合成临床笔记的精调 BioClinicalBERT 模型。研究发现,与 GPT-3 相比,ChatGPT 在零注释情况下表现优异,并且使用不同的提示策略可以过提高其性能。虽然 ChatGPT 的表现仍低于 BioClinicalBERT 模型,但本研究证明了 ChatGPT 在不需要注释的情况下进行临床 NER 任务的巨大潜力。
Mar, 2023
应用基于提示的大型语言模型在临床试验中基于资格标准对患者进行分类的研究提供了有希望的分数,并提出了一种利用 SNOMED CT 本体论进行提取式摘要的方法,该方法也可以应用于其他医学文本。
Apr, 2024
本文探讨在生物医学领域中的关系抽取问题,研究使用集成学习的方式能否提高在 ChemProt 数据集上的预测结果,结果展示了基于掩码的抽取方法有潜力在该特定领域关系抽取任务中取得优异的性能。
Apr, 2022
使用提示工程和 GPT-3.5 进行生物医学问题聚焦多文档摘要,我们的系统在 2023BioASQ 挑战中通过 GPT-3.5 和适当的提示获得了最佳的 ROUGE-F1 结果。这篇论文证实了在其他领域观察到的事实:纳入少样本的提示通常优于对应的零样本变体;检索增强生成实现了最大的改进。这些提示使得我们的最佳运行结果在 BioASQ11b 排名前两位,证明了在一般情况下,使用适当的提示对于大语言模型以及 GPT-3.5 在问题聚焦摘要中的强大作用。
Nov, 2023
本文通过实验分析 GPT-3 文本模型在语法纠错任务(GEC)上的性能,比较了不同提示方式下的表现,使用自动度量和人为评估的结合揭示了人类评估者与基于参考的自动度量之间的有趣差异。
Mar, 2023
临床深度表型化和本体概念建模在罕见疾病患者的诊断和护理协调计划中起着重要作用。本研究使用大型语言模型评估了最新的生成预训练变压器模型在临床深度表型化的性能,结果表明这些模型在临床环境中的使用存在问题。
Sep, 2023
通过整合大型多模型,特别是利用 GPT-4V 在检索者和重新排序框架下的能力,本研究提出了一种诊断临床皮肤病例的新方法,实验证明使用 GPT-4V 作为检索代理在检索皮肤病情时能够准确地检索到正确的皮肤状况,同时通过多智能体对话框架进行诊断可提供更早和准确的诊断。
Apr, 2024
自然语言处理在将自由文本放射学报告自动转换为结构化数据方面是至关重要的,但对于较少使用的语言而言,大型语言模型(LLM)在效果和潜在患者隐私风险上往往表现不佳。为了克服这些挑战,我们引入了 SMP-BERT,一种新的提示学习方法,利用报告的结构化特性。在涉及包括 8,000 名患者和 10,000 个以希伯来语编写的 Crohn's 病放射学报告的研究中,SMP-BERT 在性能方面大大超过了传统的微调方法,尤其能够检测到罕见疾病(AUC:0.99 vs 0.94,F1:0.84 vs 0.34)。SMP-BERT 提供了更准确的低资源语言的 AI 诊断能力。
May, 2024