EMNLPOct, 2022

MasakhaNER 2.0：面向非洲的命名实体识别迁移学习

PDF
TL;DR本文研究非洲语言在自然语言处理上的挑战，针对命名实体识别任务，创造了包含 20 种非洲语言的最大人工标注数据集，研究了现有跨语言传递方法的表现，并发现选择最佳传递语言相较使用英语，可以提高零 - shot F1 分数 14 点。
african languagesnlp researchnamed entity recognitionhuman-annotated ner datasetcross-lingual transfer methods
发现论文，激发创造
  • MasakhaNER: 面向非洲语言的命名实体识别

    本文介绍了第一个大型公开高质量的非洲十种语言的命名实体识别数据集，研究这些语言对命名实体识别带来的挑战，并在监督和迁移学习设置下进行了广泛的实证评估和分析，旨在启发未来的非洲自然语言处理研究。

    Mar, 2021

  • MasakhaNEWS：面向非洲语言的新闻主题分类

    该论文提出了 MasakhaNEWS 数据集来支持在 16 种非洲语言上的新闻主题分类研究，并探索了多种机器学习方法以支持零样本和少样本学习。通过使用 ChatGPT 等技术实现了在低资源非洲语言中进行新闻主题分类任务，能够在零样本情况下实现平均 F1 得分 70，利用 PET 方法，10 个样本即可实现较好的效果。

    Apr, 2023

  • 分析低资源非洲命名实体识别中的跨语言传递

    通过研究名词实体识别任务的十种低资源语言之间的跨语言迁移学习，我们发现自适应微调和迁移语言的选择对零射击迁移性能有何影响，发现在个别语言性能和在其他语言上的概括之间存在权衡，同时源数据集和目标数据集之间的数据重叠程度是预测迁移性能的更好指标，而不是语言之间的地理或遗传距离。

    Sep, 2023

  • 探索口语命名实体识别：跨语言视角

    本研究利用荷兰语、英语和德语之间的跨语言转移学习，使用管道和端到端（E2E）方案，利用自定义伪标注数据集的 Wav2Vec2-XLS-R 模型，研究了几种跨语言系统的适应性，结果表明，端到端的口语命名实体识别优于基于管道的替代方案。 转移学习从德语到荷兰语的效果比荷兰语 E2E 系统高 7％，比管道系统高 4％。

    Jul, 2023

  • Masakhane -- 非洲机器翻译

    本文介绍了 MASAKHANE 建立非洲自然语言处理和机器翻译社区的方法和成功经验。

    Mar, 2020

  • 神经交叉语言转移和有限注释数据应用在丹麦命名实体识别

    该研究评估了跨语言转移模型在丹麦语命名实体识别中的表现，并研究了在极少量标注数据情况下的补充效果，以及阐述了丹麦语 NER 的性能。

    Mar, 2020

  • 跨语言命名实体识别的增强迭代知识蒸馏

    本文描述了微软在交叉语种命名实体识别中的新实践方法，使用源语种的标注数据和目标语种的无标注数据，采用半监督学习和强化学习的方法来提取弱监督信号并实现了新的最先进性能优于现有的模型。

    Jun, 2021

  • NollySenti: 基于迁移学习和机器翻译的尼日利亚电影情感分类

    本文通过跨域自适应的方式，以五种尼日利亚当地常用语言（英语，豪萨语，伊博语，奈及利亚皮钦语和约鲁巴语）为基础，创造了新的数据集 NollySenti，用来进行情感分类的任务，并通过机器学习和基于预训练模型的方式进行了广泛的实证评估。同时通过跨域自适应和跨语言自适应方法，与 Twitter 领域的表现进行比较，表明跨域转移对于同一目标领域的英语具有超过 5% 的准确度改善。而跨语言自适应的方案最大限度地降低了域差异，达到了超过 7% 的准确性提升，其中通过人的评估证实机器翻译将原始英语评论的情感保留在多数翻译语句中。

    May, 2023

  • 为印度语言优化预训练的命名实体识别模型

    对印度语言进行多语言命名实体识别的挑战分析及旨在应对其的技术的提出。同时，提供了包括两个主要印度语言家族中四种印度语言在内的人工标注命名实体语料库，并在该数据集上对多语言模型进行了微调，平均 F1 得分达到 0.80。在印度语言的完全未见基准数据集上实现了可比的性能，证实了我们模型的实用性。

    May, 2024

  • 注释密度对非洲语言命名实体识别模型性能的影响

    本文分析了基于数据集质量的各种模型的性能。我们评估了针对一些非洲命名实体识别数据集的每句实体密度不同的预训练模型，并希望通过这项研究改进低资源语言的自然语言处理研究方法。

    Aug, 2022