Jun, 2022

构建冰岛实体链接语料库

PDF
TL;DR本论文介绍了使用 mGENRE 多语言实体链接模型与 Wikipedia API Search（WAPIS）结合的方法，将其用于标注冰岛语数据，并与仅使用 WAPIS 的方法进行比较。结果表明，我们的组合方法在我们的语料库上达到了 53.9％的覆盖率，而仅使用 WAPIS 仅达到了 30.9％的覆盖率。此外，我们分析了未标注的数据，识别数据中的模式，并讨论为什么这些模式可能更难以注释。
发现论文，激发创造
  • 从干净的爬取语料开始 —— 打造优秀语言模型的秘诀

    本文介绍了利用冰岛语通用爬虫语料库进行训练的几种语言模型，包括 IceBERT，这些模型在诸多下游任务中均达到了最优表现。通过这些努力，我们证明了经过适当清理的网络爬虫语料库足以实现自然语言处理应用的最佳效果，并且说明使用现有的多语言模型初始化可以在某些下游任务中达到最先进的结果。

    Jan, 2022

  • 100 语言的实体链接

    提出了一种新的多语言实体链接公式，其中语言特定的提及解析为面向语言不可知的知识库。 在改进特征表示，负面挖掘和辅助实体配对任务的先前工作的基础上，我们在这个新的环境中训练了一个双编码器，以获得单个实体检索模型，它涵盖了 100 多种语言和 2000 万个实体。该模型胜过了远远有限的跨语言链接任务的最新结果。 这个大规模的系统面临着罕见实体和低资源语言的挑战，因此我们主张增加对零点和少量射击评估的关注。 为此，我们提供了 Mewsli-9，一个新的大型多语言数据集，帮助我们了解基于频率的分析如何为我们的模型和训练增强提供关键见解。

    Nov, 2020

  • 通过利用未标注文档提高实体链接性能

    本研究提出一种基于未标记的自然文本和维基百科的无监督学习方法，探索实体链接，使用潜在变量的主题模型学习本地语境和文档中其他实体的相互衔接，结果表明该方法优于现有的有监督的系统，应该是一种普遍适用于自然语言处理领域的方法。

    Jun, 2019

  • 多语种事件链接至维基数据

    本文提出了一项多语种事件链接的任务，构建了包含 440 万触及 440 多种语言的事件数据集，其中两个变体均超过了基线模型。

    Apr, 2022

  • 构建并评估通用命名实体识别英语语料库

    本文介绍了使用 Universal Named Entity 框架来自动生成注释语料库的应用。通过使用从维基百科数据和元数据以及 DBpedia 信息中提取出来的工作流程，我们生成了一个英语数据集并进行了描述和评估。此外，我们进行了一系列实验，以在精确度，召回率和 F1-measure 方面改善注释。最终数据集可供使用，建立的工作流程可应用于任何具有现有维基百科和 DBpedia 的语言。作为未来研究的一部分，我们打算继续改进注释过程并将其扩展到其他语言。

    Dec, 2022

  • 映射语言：全球语言使用语料库

    本文描述了一个基于互联网语言使用的语料库，重点介绍如何利用这个语料库进行数据驱动的语言映射；通过提供有关全球语言使用的信息来支持本地化语种，并且通过对比人口统计学数据和 Twitter 数据来分析数字语言数据代表实际人口的程度。

    Apr, 2020

  • 验证和探索大规模地理文集

    本文研究了语料库创建决策对大型多语言地理 Web 语料库的影响。通过从 Common Crawl 获取的 4270 亿个词的语料库，使用三种方法改善代表特定语言国家对 (如新西兰英语) 的子语料库质量：(i) 独立语言识别系统的一致性，(ii) 基于哈希的去重，以及 (iii) 特定位置的异常检测。然后，通过使用语料库相似度度量将每个结果语料库与基准数据集进行比较，评估每个步骤对语言级别和国家级别的影响。目标是了解上游数据清理决策对下游语料库的影响，重点关注代表性不足的语言和人口。评估结果表明，每个清理阶段都提高了子语料库的有效性，但这种改进在语言和人口之间分布不均匀。该研究结果显示了标准语料库创建技术可能会无意中排除代表性不足的人口。

    Mar, 2024

  • 跨语言知识图谱实体标签映射的统计和神经方法

    本研究探讨使用单词和句子对齐技术以及匹配算法来对来自特定多个语言的 Wikidata 实体标签进行对齐，并展示使用该技术能显着提高信息一致性的 F1 得分，尤其是使用句子嵌入技术的方法，这将可以用于机器翻译等领域。

    Jun, 2022

  • LEIA：基于实体数据增强的语言模型跨语言知识迁移促进

    使用 LEIA 方法结合维基百科实体名称对目标语言语料进行增强，并通过从左到右的语言建模训练模型，以提升跨语言问答的性能表现。

    Feb, 2024

  • 评估基于领域专属知识库的端到端实体链接：从博物馆藏品学习古代科技

    本研究旨在探究使用现代实体链接方法对博物馆收藏数据进行丰富的可能性，结果表明，正交纠正的实体链接模型在该领域的性能明显优于其他现有方法。

    May, 2023