基于大型语言模型和UMLS启发式规则的生物医学嵌套命名实体识别
提出一种在大规模生物医学语料库上训练的具有生物医学上下文依赖命名实体识别能力的领域特定语言模型——生物医学ALBERT,并在8个不同的医学NER基准数据集上展现出极高的性能表现,该模型可供未来研究使用。
Sep, 2020
提出KeBioLM这一生物医学语言 pretrained language model,该模型明确利用了来自UMLS UMLS knowledge bases知识库的知识,取得了名词实体识别和关系提取的不错效果。
Apr, 2021
本文介绍了针对西班牙语的生物医学和临床语言模型,通过实验不同的预训练选择和测试领域数据,生成可用于实际临床数据的模型,并通过对比NER任务,证实了进行特定领域的预训练对提高下游任务性能非常重要。
Sep, 2021
本文介绍了 NEREL-BIO,一个PubMed摘要的标注体系和语料库。NEREL-BIO拓展了NEREL数据集,引入了特定领域实体类型。它涵盖了一般和生物医学领域,适用于领域转移实验。NEREL-BIO作为交叉领域和跨语言转移的基准,包含嵌套命名实体的注释,并进行了相关实验和结果报告。
Oct, 2022
本研究通过实验验证了GPT-3和GPT-4在8个BioNLP应用中的性能表现,并对其识别错误进行了分析,提出了在BioNLP应用中使用LLMs的建议。
May, 2023
通过将大型语言模型(LLMs)应用于生物医学命名实体识别(NER)任务,将NER任务分解为实体跨度提取和实体类型确定两个步骤,同时注入实体知识以解决LLM在预测实体类别时缺乏领域知识的问题,实验证明了我们的两步BioNER方法相对于之前的少样本LLM基线在性能上有显著提高,而引入外部知识则显著增强了实体类别确定性能。
Sep, 2023
本研究全面调查了大型语言模型(尤其是BioBERT)在医疗保健领域的应用。它从彻底检查先前的自然语言处理(NLP)方法在医疗保健领域的应用开始,揭示了这些方法面临的限制和挑战。随后,研究探索了将BioBERT应用于医疗保健应用的路径,突出了它适用于处理生物医学文本挖掘任务的特定要求。该分析提出了一种系统的方法,用于微调BioBERT以满足医疗保健领域的独特需求。该方法包括从各种医疗保健来源获取数据,对诸如识别医疗实体和对其进行分类等任务进行数据注释,以及应用专门为处理生物医学文本中的复杂性而量身定制的预处理技术。此外,本研究还涵盖了与模型评估相关的方面,重点关注医疗保健基准以及在生物医学中自然语言处理、问答、临床文档分类和医疗实体识别等功能的处理。它探索了提高模型可解释性的技术,并验证了其性能与现有的以医疗保健为重点的语言模型相比。本研究全面检查了伦理考虑,特别是患者隐私和数据安全。它强调了将BioBERT纳入医疗保健环境的好处,包括增强临床决策支持和更高效的信息检索。然而,它也承认了此集成的障碍和复杂性,包括与数据隐私、透明度、资源需求以及使模型与各种医疗保健领域保持一致的定制需求相关的问题。
Oct, 2023
本文提出了一种集成多种模型的混合方法,以解决生物医学实体识别中的局限性,并在i2b2/2010数据集上评估,得到了90.11的F1分数。
Dec, 2023
该研究探讨了大型语言模型在医学领域中的应用,通过策略性地选择和设计提示语,增强模型在命名实体识别任务中的性能,并结合外部资源通过提示策略填补医学命名实体识别领域中的专业需求与通用语言模型之间的差距,最终提出的方法能够提高大型语言模型在医学命名实体识别任务中的 F1 分数。
Apr, 2024