Nov, 2023

ÚFAL CorPipe 在 CRAC 2023：更大的上下文改善多语种共指消解

PDF
TL;DR我们提供的 CorPipe 是 2023 年 CRAC 共享任务多语言共指解析比赛的获胜系统，它是我们之前多语言共指流水线的改进版本，并以 4.5 个百分点的巨大优势超过其他参赛者。CorPipe 首先通过检测提及实体，然后通过在提取的范围上采用先行最大化方法进行共指链接。这两个任务是在所有可用语料库上使用共享的预训练语言模型进行联合训练的。我们的主要改进包括使用大于 512 个子词的输入和更改提及解码以支持组合解。源代码可以在此 https URL 中找到。
corpipemultilingual coreference resolutionmention detectioncoreference linkingantecedent-maximization approach
发现论文，激发创造
  • ÚFAL CorPipe 在 CRAC 2022 的多语言模型对指代消解的效用

    我们使用联合微调的方法，结合先进的预训练模型，成功地解决了 CRAC 2022 共享任务中的多语言指代消解问题，找到了一种足够大的编码器，提高了各数据集的表现，并提供了源代码。

    Sep, 2022

  • 端到端多语言指代消解与提及头预测

    本文介绍了我们在 CRAC 2022 共享任务中用于多语言指代消解的方法，我们使用了最先进的端到端指代消解系统并进行了多语言联合训练，同时加入了头部预测和依赖信息集成，最终系统取得了第三名并且在其中两个数据集上表现最佳。

    Sep, 2022

  • 多语言指代消解共享任务的发现

    本文概述了 CRAC 2022 研讨会上多语种共指消解任务的概况，采用公共数据集 CorefUD 1.0 为训练和评估数据，使用 CoNLL 得分作为主要评估指标，并比较了多个系统和竞争基线系统，获胜者系统的表现优于竞争基线 12 个百分点。

    Sep, 2022

  • ÚFAL LatinPipe 在 EvaLatin 2024 中的拉丁语形态句法分析

    LatinPipe 使用预训练语言模型进行依存解析和形态分析，并利用多个拉丁语语料库的样本进行训练，并通过堆叠 BiLSTM 层来增加额外的上下文关联性，最终通过集成网络的输出概率分布来完成最终的解析。

    Apr, 2024

  • 探索通过通用注释进行多语言指代消解

    基于 CorefUD 数据集和通用形态句法和共指注释，我们通过研究核心指代在不同语言、不同语体和不同层次上的特点，对 SotA 系统无法解决的最具挑战性情况进行错误分析，然后从通用形态句法注释中提取特征，并将这些特征集成到基线系统中，结果显示我们的最佳配置特征提高了 0.9% 的 F1 得分。

    Oct, 2023

  • UDPipe 于 SIGMORPHON 2019: 上下文嵌入，形态类别规则化，语料库合并

    我们在 SIGMORPHON2019 共享任务中对 UDPip2.0 进行修改，使用预训练的上下文化嵌入 (BERT) 作为网络的附加输入，使用单独的形态特征作为正则化，并合并了同一语言的选定语料库，在词形还原任务中，我们的系统的准确性达到了 95.78，超过所有提交的系统，且在词态分析方面取得了 93.19 的准确度，是一个非常有前途的研究。

    Aug, 2019

  • 低资源南亚语言中的多语言共指消解

    通过使用现成的翻译和词对齐工具，我们引入了一个包含 31 种南亚语言的多语种共指解析翻译数据集（TransMuCoRes）。两个现成的共指解析模型使用 TransMuCoRes 与一份具有手工注释的印地语共指解析数据集的连接进行训练，最佳模型在印地语黄金集上的 LEA F1 得分和 CoNLL F1 得分分别为 64 和 68。此研究是首次在印地语黄金集上评估了一个端到端共指解析模型，并强调了当前共指评估指标在存在拆分先行词的数据集上的局限性，倡导开发更合适的评估指标。

    Feb, 2024

  • 2023 年 MRL 多语言多任务信息检索共享任务 CUNI 提交

    我们提出了查理斯大学关于 MRL~2023 多语言多任务信息检索的系统。共享任务的目标是为多个代表性不足的语言开发命名实体识别和问题回答系统。我们针对两个子任务的解决方案都依赖于翻译 - 测试方法。首先，我们使用多语言机器翻译模型将无标签的示例转化为英文。然后，我们使用强大的任务特定模型对翻译后的数据进行推断。最后，我们将标记数据投射回原始语言。为了保持原始语言中推断标记的正确位置，我们提出了一种基于标签敏感翻译模型评分候选位置的方法。在两种情况下，我们尝试在翻译后的数据上微调分类模型。然而，由于开发数据和共享任务验证和测试集之间的领域不匹配，微调模型无法超越我们的基准线。

    Oct, 2023

  • 基于 Seq2Seq 转移系统的指代消解

    本文提出一种基于文本到文本 (seq2seq) 模式的指代消解系统，它使用转移系统来预测提及和链接，使用多语言 T5 作为底层语言模型，在 CoNLL-2012 数据集上获得了 83.3 的 F1-score，远高于之前的最优结果；在 SemEval-2010 数据集上进行了零次训练、少次训练和有监督训练，对于所有五种测试语言，超过之前的最优结果。

    Nov, 2022

  • 多方对话中多语言指代消解

    本文提出 Multilingual Multiparty Coref (MMC) 数据集用于核心参照消解任务，通过注释的转录来提供其他语言 (中文和波斯语) 的银参照数据，在英文数据中，现有的模型在 MMC 上的表现相对较差，说明 MMC 具有比先前数据集更广泛的多方参照覆盖范围。在银数据上，我们发现在模拟零 - shot 跨语言环境方面，使用它进行数据增强和从头开始的训练都很成功。

    Aug, 2022