ACLApr, 2022

基于知识库指导的预训练和同义词感知微调的生成式生物医学实体链接

PDF
TL;DR本文提出了一种新的方法来解决生物医学实体链接的问题，利用基于知识库的预训练和微调，以及多种类似词的构建方式来进行模型训练，这种方法在多项实验中都取得了最优结果。
biomedical entity linkinggenerative approachknowledge basespre-trainingfine-tuning
发现论文，激发创造
  • 基于三元注意力预训练的生物医学实体链接

    将基因组学实体链接到自然语言处理任务中，提出了一种使用知识图谱信息预训练生成式大型语言模型的新框架。

    Aug, 2023

  • 利用检索增强学习改进生物医学实体链接

    通过引入新的 $k$NN-BioEL 方案，以及使用动态难负采样 (DHNS) 进行对比学习，本研究提出了一种改进型的生物医学实体链接模型，可以提高模型对稀有和困难实体的处理能力，并在多个数据集上优于现有方法。

    Dec, 2023

  • 使用知识优化生物医学预训练语言模型

    提出 KeBioLM 这一生物医学语言 pretrained language model，该模型明确利用了来自 UMLS UMLS knowledge bases 知识库的知识，取得了名词实体识别和关系提取的不错效果。

    Apr, 2021

  • 在生物医学实体链接中探索部分知识库推理

    本研究探讨生物医学实体链接领域和命名实体识别和消歧方面的问题，分析了在局部知识库推理的情况下，EL 模型的性能下降严重，提出了两种简单而有效的方法来解决 NIL 问题。

    Mar, 2023

  • 生物医学实体链接作为多项选择问题回答

    Biomedical entity linking is improved using BioELQA, a model that treats it as multiple choice question answering, capturing fine-grained interactions and addressing challenges with long-tailed entities.

    Feb, 2024

  • 基于字典为基础的同义词概括的生物医学命名实体识别

    本研究提出了一种新的同义词泛化（SynGen）框架，使用基于跨度的预测识别输入文本中包含的生物医学概念。 通过引入同义词距离正则化器和噪声扰动正则化器，该框架能够降低同义词泛化误差。本研究在多个基准测试中广泛评估了我们的方法，结果表明，SynGen 表现出比以前的基于字典的模型更优异的性能。

    May, 2023

  • 知识增强微调：更好地处理对话生成中的未知实体

    本篇论文提出了通过外部知识库训练对话系统，解决无法预测未知实体的问题，具有良好的实验效果。

    Sep, 2021

  • 医学实体链接的轻量级神经模型

    本研究提出了一种轻量级神经方法，利用对齐层和注意力机制来捕捉提到与实体的不同名称变化，以解决生物医学概念链接中同一实体具有各种名称变体的挑战，并且在标准评估基准上证明该模型表现竞争力。

    Dec, 2020

  • 同义词边缘化的生物医学实体表示

    本文基于实体的同义词提出一种模型，通过模型候选选择和无须对超过 400k 个负样本进行显式预选择， 迭代更新不断提高负样本难度的方法来学习生物医学实体的表征。在四个不同的生物医学实体规范化数据集上，该模型 BioSyn 表现卓越，几乎达到每个数据集的上限。

    May, 2020

  • 高效的生物医学实体链接：低资源技术下的临床文本标准化

    通过学习实体的同义词对，我们提出了一种用于临床文本标准化的方法，通过关联多个术语，从而显著减少训练数据和资源消耗，并引入了基于上下文和无上下文重排序技术进行实体消岐。在最大的 UMLS 标注数据集 Medmentions 上，我们的方法表现与现有的零样本和远程监督实体链接技术相当，在没有基于领域的训练的情况下。最后，我们证明了单纯的检索性能可能不足以作为评估指标，并引入了一种基于文章的定量和定性分析，揭示了实体链接方法的进一步洞察。

    May, 2024