ACLJun, 2023

ACLM：基于选择性去噪的生成式数据增强方法在低资源复杂命名实体识别中的应用

PDF
TL;DR本文提出了一种基于条件语言模型微调的 ACLM 注意力映射感知关键词选择数据增强方法，用于解决低资源环境下的语言复杂命名实体识别问题，它能够生成更多样化和连贯的增强数据，在单语、跨语言和多语言复杂命名实体识别任务中，ACLM 相比于神经网络基准模型有更好的表现，并能够用于其他数据缺乏的领域。
发现论文，激发创造
  • LLM-DA: 大型语言模型在少样本命名实体识别中的数据增强

    提出了 $LLM-DA$，这是基于大型语言模型的一种新的数据增强技术，适用于少样本的命名实体识别任务，并实验证明该方法在有限数据情况下能有效提升模型性能。

    Feb, 2024

  • MELM: 低资源命名实体识别的掩码实体语言建模数据增强

    使用 MELM 作为一种新的数据增强框架，通过显式条件化于标签来预测掩码实体标记，从而为低资源 NER 生成高质量的增强数据，并通过与混合代码结合进一步提高了 MELM 的有效性，在单语，跨语言和多语言 NER 方面均取得了实验结果的显著改进。

    Aug, 2021

  • 使用数据增强的嵌套命名实体识别的复合嵌套学习

    本研究关注于基于嵌套命名实体识别（NNER）来解决实体重叠识别的问题，提出了一种有效的数据增强方法，使用 Composited-Nested-Label Classification（CNLC）来建模嵌套实体，通过 Composited-Nested-Learning（CNL）对数据集进行扩充，并采用 Confidence Filtering Mechanism（CFM）对生成的数据进行高效选择，实验证明该方法在 ACE2004 和 ACE2005 中取得了改进，并缓解了样本不平衡所带来的影响。

    Jun, 2024

  • 基于条件掩码语言模型的神经机器翻译语义一致数据增强

    本文介绍了一种新的神经机器翻译数据增强方法，可以在语言内外强制实现更强的语义一致性。结果表明，条件掩蔽语言模型是一种生成上下文相关单词分布的有效技术，并集成了软词替换的思想，以增强数据多样性，加强语义一致性。该方法在四个规模不同的翻译数据集上进行的实验结果，展示了更真实的数据增强和更好的翻译质量，相对于强和最新的工作，我们的方法一致实现了最佳性能，并相对于基线改进了高达 1.90 BLEU 分数。

    Sep, 2022

  • 利用 LLM 增加 NER 数据集：走向自动化和精确注释

    在自然语言处理（NLP）领域，命名实体识别（NER）被认为是一项关键技术，广泛应用于各种应用。本研究引入了一种新颖的混合标注方法，将人力与大型语言模型（LLMs）的能力相结合，旨在提高 NER 模型的性能，并以经济的方式解决传统标注方法存在的噪音和类别不平衡问题。通过多个数据集的分析，该方法在受限预算条件下始终显示出比传统标注方法更优越的性能，揭示了利用 LLMs 提高数据集质量的潜力，引入了一种减轻类别不平衡问题的新技术，并证明了以经济方式实现高性能 NER 的可行性。

    Mar, 2024

  • MANER: 极低资源语言的掩码增强命名实体识别

    本文介绍了一种基于预训练掩码语言模型（MLMs）的正名实体识别（NER）新方法，称为掩码增强的命名实体识别（MANER）方法，可有效提高资源稀缺语言的 NER 性能。

    Dec, 2022

  • 知识增强语言模型及其在无监督命名实体识别中的应用

    用知识增强的语言模型（KALM）通过使用外部知识库和优化文本困惑度的端到端预测目标培训，在不需要任何其他信息（如命名实体标签）的情况下，能够成功地建模命名实体（及可能的其他类型的世界知识）并在无监督的方式上对其进行识别，并实现与最先进的监督模型相当的性能。

    Apr, 2019

  • 命名实体识别简单数据增强分析

    本研究针对基于标记序列的命名实体识别任务，设计并比较了数据增强技术的效果。通过在生物医学和材料科学领域的两个数据集（i2b2-2010 和 MaSciP）上进行实验，我们表明简单的增强技术可以提高循环模型和基于 Transformer 模型的性能，尤其是对于小训练集的情况。

    Oct, 2020

  • Auto-MLM: 自监督多语言知识检索的改进对比学习

    本文提出一种结合对比学习和自动编码器掩码语言模型的联合训练方法，用于自我监督多语言知识检索，通过生成新的标记表示来预测掩码标记，实验结果表明，在 8 种语言上，我们的提出的方法在 AliExpress 和 LAZADA 服务语料库和公开可用的语料库上都 consistently 超过了所有先前的 SOTA 方法。

    Mar, 2022

  • 利用加性注意力组合学习的图像搜索与文本反馈

    该研究提出了一种称为 AACL 的方法，它基于多模式 Transformer 结构，可用于有效地检索类似于给定源图像的目标图像并且满足所提供的修改。在多项实验中，AACL 均实现了最新的最佳结果。

    Mar, 2022