ACLJan, 2024

Chem-FINESE: 文本重建验证细粒度少样本实体抽取

PDF
TL;DR本文介绍了一种新颖的基于序列到序列 (seq2seq) 的少样本化精细颗粒化化学实体抽取方法 Chem-FINESE，其包括一个用于从输入句子中提取命名实体的 seq2seq 实体抽取器和一个用于从提取的实体重构原始输入句子的 seq2seq 自我验证模块。通过在少样本设置下使用 ChemNER + 和 CHEMET 数据集进行实验，我们的新框架相对于已有模型取得了高达 8.26% 和 6.84% 的绝对 F1 得分提升。
fine-grained few-shot entity extractionchem-finesesequence-to-sequenceentity extractorchemner+
发现论文，激发创造
  • SEE-Few: 小样本命名实体识别的种子、扩张与蕴含

    本文提出了一种新颖的多任务学习框架 SEE-Few，用于在没有使用源域数据的情况下进行少样本实体识别，该框架通过种子、扩展和蕴含的学习模块来提高实体识别的准确性，实验结果表明，该方法在四个基准数据集上表现出了比现有技术高出很大的优势。

    Oct, 2022

  • Few-shot Fine-tuning 的构建：以命名实体识别为例进行语言模型预训练的试验研究

    本篇研究提出了一种基于预训练模型且更贴近预训练目标的新型 few-shot fine-tuning 框架 FFF-NER，应用于命名实体识别任务上，经过一系列实验及消融研究，确认其比现有序列标记、原型元学习和提示式方法等现有方法能够更有效改善 NER 性能。

    May, 2022

  • 自然与工程领域中的种子引导细粒度实体分类

    研究了在科学和工程领域中基于种子引导的细粒度实体类型的任务，该任务利用名称和少量种子实体作为唯一的监督，旨在将新的实体提及分类为已知和未知类型，并提出了 SEType 方法来解决该问题。

    Jan, 2024

  • 为高效和通用的超细实体类型定义校准的 Seq2seq 模型

    使用 CASENT 模型，采用序列到序列方法，并预测带有经过校准的置信度分数的超精确类型，通过在 UFET 数据集上的实验证明其在 F1 得分和校准误差方面优于现有最先进方法，同时推断速度提高了 50 多倍，并在零样本和少样本情况下，在五个专业领域实体类型数据集上展示了其泛化能力，惊人的是，在零样本设置下，我们的模型在超过 10 倍参数的大型语言模型上取得了更好的性能，在使用 50 个示例进行微调时，它在所有数据集上显著优于 ChatGPT。

    Nov, 2023

  • FiD-Ex: 改进序列到序列模型以进行摘要理由生成

    本文介绍一种名为 FiD-Ex 的模型，它采用序列到序列的结构，通过引入句子标记、融合解码器结构和中间微调等方法来解决 Seq2Seq 模型中的问题，显著提高了模型的解释效果和准确性。

    Dec, 2020

  • 利用经过优化的大型语言模型从复杂的科技文本中提取结构化信息

    通过预先训练的语言模型 GPT-3，我们提出了一种简单的序列到序列方法来联合提取科学文本中的复杂层次信息的命名实体识别和关系抽取，并证明了这种方式能够准确提取复杂科学知识的有用记录。

    Dec, 2022

  • 基于序列到序列的文档级关系抽取方法

    本文提出了一种基于序列到序列模型的方法 seq2rel，使用实体推荐技术，可以替代传统的基于流水线任务的文档级关系抽取方法来同时完成抽取实体和关系的子任务，通过在几个受欢迎的生物医学数据集上的实验，本方法表现出了比现有流水线方法更优秀的性能，我们还展示了端到端方法超越流水线方法的结果。

    Apr, 2022

  • 一种基于 Transformer 的零样本和少样本生物医学命名实体识别方法

    本论文提出了一种基于 transformer 的方法来解决在生物医学领域中监督命名实体识别（NER）的挑战，包括零样本和少样本 NER。该方法基于将多类令牌分类的任务转化为二进制令牌分类，并在更多数据集和医学实体上预训练，从中可以学习给定实体和潜在类之间的语义关系。使用 PubMedBERT 调整模型进行的实验结果表明，该方法具有识别有限样本中的新实体的能力，对于零样本 NER 的平均 F1 得分达到 35.44％，对于 10 样本和 100 样本 NER 的平均 F1 得分分别为 69.94％和 79.51％。该方法可与目前的先进零样本和少样本 NER 方法相媲美甚至更好。

    May, 2023

  • 少样本实体识别的混合多阶段解码方法与实体感知对比学习

    我们提出了混合多阶段解码的少样本命名实体识别方法，通过实体跨度检测和实体分类的两个阶段，结合对比学习模块以增强实体表示，实现了在少样本情况下识别新类型命名实体的能力。

    Apr, 2024

  • 少样本命名实体识别：综合研究

    本文提出了一种有效地建立识别命名实体（NER）系统的方法，基于最近的基于转换器的自我监督预训练语言模型（PLMs），并探讨了三种正交的方案来改进针对少样例情况的模型泛化能力，通过大量实验结果表明，我们的方法在少数样例学习环境中显著改善或优于基于域标记微调的 PLM 线性分类器等基线方法，同时在无训练和少样例学习环境下建立了最新的业界记录。

    Dec, 2020