Dec, 2022

DAMP: 面向任务型对话的双重对齐多语言解析器

PDF
TL;DR使用两个阶段的多语言语义解析的多语言代码切换语义解析系统，通过对比预训练改进英语性能和转移效率，并引入有限调整优化方法来提高零 - shot 性能，将 mBERT 的转移性能大大提高，同时使用 3.2 倍少的参数优于 XLM-R 和 mT5-Large。
发现论文，激发创造
  • 多语言任务导向对话的情境语义解析

    通过机器翻译自动翻译对话数据集并使用新的上下文语义解析模型，该方法在多个数据集上提高了准确性并创建了高准确度的多语言对话数据集。

    Nov, 2021

  • 跨语言句子嵌入的双重对齐预训练

    我们提出了一种双重对齐预训练框架 (DAP)，它结合了句级和令牌级对齐，用于跨语言句子嵌入，其中引入了一种表示翻译学习 (RTL) 任务来将翻译信息嵌入到令牌表示中。在三个跨语言基准测试上进行了广泛实验，表明我们的方法能够显著提高句子嵌入。

    May, 2023

  • 零样本跨语言语义解析

    本文提出一种多任务编码 - 解码模型，通过多语言领域内语料库和英文 - 逻辑形式对标数据，在没有平行语料的情况下完成跨语言的语义解析，模型加强了语言无关编码，显著优于传统基于翻译的算法，有时能与有监督模型的上线媲美。

    Apr, 2021

  • DAMO-NLP 在 SemEval-2022 任务 11 中的表现：一种基于知识的多语言命名实体识别系统

    本文介绍了 DAMO-NLP 提出的基于维基百科的多语言知识库，用于提供上下文信息以帮助在短文本和低上下文环境中的多义和复杂命名实体识别。通过将知识库中的相关上下文与输入句子进行匹配，我们的系统能够有效地检索相关上下文信息并将其用于输入句子的增强，从而更好地捕捉上下文信息表示。我们的系统在 MultiCoNER 共享任务中获得了 13 个中 10 个的胜利。

    Mar, 2022

  • MAD-X：一种基于适配器的多任务跨语言迁移框架

    本文提出 MAD-X 适配器框架，通过学习模块化的语言和任务表示来实现对任意任务和语言的高移植性和参数有效的转移。在命名实体识别和因果常识推理中定型后，MAD-X 在跨类型多样的语言跨语言转移方面优于最新技术水平，并在问答方面取得具有竞争力的结果。

    Apr, 2020

  • 使用合成数据提升零样本多语言语义解析技术

    提出一种名为 TaF 的方法，用于在可用目标语言监督的情况下产生多语言语义分析器的银色训练数据，该方法简化了翻译 - 对齐 - 投影（TAP）流水线，并通过 “填充” 模型进行训练，该模型只使用英语数据但可以以零样本方式准确完成其他语言（即英语训练话语的翻译）。

    Sep, 2021

  • 评估印度语跨语言语义分析

    为了解决印度语言语义分析数据集缺乏的问题，提出了适用于 11 种印度语言的 Inter-bilingual Seq2seq 语义分析数据集 IE-SEMPARSE，并在不同的训练测试策略下评估了现有的多语言 seq2seq 模型。

    Apr, 2023

  • 自动语音翻译的跨语言转移学习改进

    本论文旨在通过语义知识蒸馏来改进多语言语音转文本翻译中的跨语言迁移学习。通过使用 SAMU-XLS-R 来初始化编码器，我们在 CoVoST-2 和 Europarl 语音转文本数据集上实现了比基线模型更好的交叉语言任务知识传输，其中平均提高了 12.8 个 BLEU 分数。在零 - shot 翻译情景下，我们在未见过的中低资源语言上平均提高了 18.8 分和 11.9 个 BLEU 分数。

    Jun, 2023

  • 学习跨语言分布式逻辑表示以进行语义解析

    本文探讨了如何通过在不同语言中打标注的数据来学习语义解析器的分布式逻辑形式表示，以提高特定语言下单语义解析器的性能，并在标准的多语言 GeoQuery 数据集上得到了改进的结果。

    Jun, 2018

  • 多语义解析器的主动学习

    本研究提出了首个主动学习过程 (MSP) 用于语义解析，包括数据集选择和超参数调整，从而达到减少翻译成本并提高解析性能的目的。

    Jan, 2023