May, 2023

生物医学实体识别的部分注释学习

PDF
TL;DR本文探讨了应用部分标注学习方法在缺失生物医学命名实体注释的场景中进行实体识别的有效性，并提出了一个新的 TS-PubMedBERT-Partial-CRF 模型来提高实体识别性能。实验结果表明，该模型在高缺失实体比例下的 F1-score 比使用全标注学习模型 PubMedBERT Tagger 高 38％，同时其实体识别的召回率也达到了与全标注学习数据集上的上界相竞争的水平。
named entity recognitionbiomedical researchpartial annotation learningts-pubmedbert-partial-crfmissing entity annotations
发现论文，激发创造
  • 使用部分标注的训练数据进行命名实体识别

    研究了使用部分标记数据进行命名实体识别的问题，用迭代算法通过识别假负标签减小其权值，训练带有偏重的 NER 模型，取得 8 种语言的实验结果，并在孟加拉语 NER 语料库中比现有最优算法提高 5 个百分点的 F1 分数。

    Sep, 2019

  • 一种基于 Transformer 的零样本和少样本生物医学命名实体识别方法

    本论文提出了一种基于 transformer 的方法来解决在生物医学领域中监督命名实体识别（NER）的挑战，包括零样本和少样本 NER。该方法基于将多类令牌分类的任务转化为二进制令牌分类，并在更多数据集和医学实体上预训练，从中可以学习给定实体和潜在类之间的语义关系。使用 PubMedBERT 调整模型进行的实验结果表明，该方法具有识别有限样本中的新实体的能力，对于零样本 NER 的平均 F1 得分达到 35.44％，对于 10 样本和 100 样本 NER 的平均 F1 得分分别为 69.94％和 79.51％。该方法可与目前的先进零样本和少样本 NER 方法相媲美甚至更好。

    May, 2023

  • 深度多任务学习的交叉类型生物医学命名实体识别

    本文提出了一个多任务学习框架，可以用于对生物医学命名实体进行识别并提高性能。该模型在 15 个基准生物医学命名实体识别数据集上的实验表明，它比现有的命名实体识别系统和基线序列标注模型都要好，此外，性能提升大部分来源于在不同的标注数据之间共享生物医学实体相关的字符和单词级别的信息。

    Jan, 2018

  • 通过多粒度嵌入和增强标注进行多级生物医学命名实体识别

    本文提出了一种集成多种模型的混合方法，以解决生物医学实体识别中的局限性，并在 i2b2/2010 数据集上评估，得到了 90.11 的 F1 分数。

    Dec, 2023

  • NanoNER：利用专家知识和远程监督进行纳米生物学的命名实体识别

    NanoNER 是基于本体知识和远程监督学习的专业领域命名实体识别模型，在 Nano 生物学领域检测先前已知实体的识别准确性为 0.98，并展示了发现新实体的能力（精确度为 0.77 至 0.81），该方法对外部资源的依赖性和 30% 的识别减弱引发的重新发现能力得到了验证。该研究为未来专业领域命名实体识别研究提供了有价值的方法和重要发现，并能推广到其他专业领域，并减少人力资源占用。

    Jan, 2024

  • 部分注释数据的命名实体识别

    本研究比较了三种部分标注数据集的训练策略以及从维基百科派生新实体类数据集的方法，并针对两个新类别（食品和药物）手动注释测试数据集以验证数据获取和训练方法的可行性。

    Apr, 2022

  • BioMNER：用于生物医学方法实体识别的数据集

    本研究提出了一个新的生物医学方法实体识别数据集，利用自动化的生物医学方法实体识别和信息检索系统来辅助人工注释。此外，我们全面探索了一系列传统和现代的面向开放领域的命名实体识别方法，包括针对我们数据集进行定制的最新大规模语言模型（LLMs）的使用。我们的实证研究发现，令人惊讶的是，语言模型的大参数数量阻碍了与生物医学方法相关的实体提取模式的有效吸收。显著地，结合条件随机场（CRF），利用体积适中的 ALBERT 模型（仅 11MB），取得了最先进的性能（SOTA）。

    Jun, 2024

  • 在部分注释的命名实体识别语料库上微调 BERT 模型

    本文提出一种基于 BERT 和自监督学习、标签预处理来优化部分标记数据集上的命名实体识别 (NER) 模型的方法。我们的方法在处理缺乏标记的数据集时显著优于基于 LSTM 的标签预处理基线，并证明在 CoNLL 2003 数据集上使用 RoBERTa 模型只标记 10％的实体即可达到与 50％实体标记的基线模型相同的性能。

    Nov, 2022

  • 通过参考集增强的蒸馏自举方法实现生物医学命名实体识别（Biomedical Named Entity Recognition via Reference-Set Augmented Bootstrapping）

    本文提出了一种弱监督数据增强方法，用于提高命名实体识别在具有挑战性的领域中的表现，结果表明该方法显著提高了 NER 性能，同时讨论了影响该方法有效性的因素。

    Jun, 2019

  • 从生物医学文献中进行意图识别和实体提取

    通过全面的实证评估，我们表明在生物医学文本中，受监督的微调方法仍然相关且比通用性的大型语言模型更有效，如 PubMedBERT 可以仅凭 5 个受监督示例就能在命名实体识别任务上超过 ChatGPT。

    Apr, 2024