Jan, 2020

ABsent: 双向 GAN 的跨语言句子表示映射

PDF
TL;DR提出了 Adversarial Bi-directional Sentence Embedding Mapping（ABSent）框架，它能够从有限量的平行数据中学习跨语言句子表示的映射，解决了跨语言转移学习中平行数据量有限的问题。
cross-lingual transfer learningneural networksparallel textsentence embeddingslimited parallel data
发现论文，激发创造
  • 来自平行句子的稳健跨语言嵌入

    提出一种基于双语 CBOW 方法的联合学习方法，通过利用句子对齐语料库获得强健的跨语言词和句子表示，显著提高了跨语言句子检索性能，并在维持单词翻译方面与最先进的方法并驾齐驱，同时在零 - shot 跨语言文档分类任务方面达到深度 RNN 方法的水平，对单语词向量的提高优势明显。

    Dec, 2019

  • 多重对抗学习用于跨语言单词嵌入

    提出了一种基于多对抗学习的新方法，用于在远程语言之间诱导跨语言词嵌入，改善了以往单映射方法的性能，特别是对于远程语言的情况

    Oct, 2020

  • 从双语对齐到多语对齐：无监督平行文本挖掘

    本文提出一种跨语言句子表示的学习方法，介绍了双轴转移的训练策略，并通过实验表明这种策略可以应用于获取具有多语言对齐的句子表示。

    Apr, 2021

  • 基于对抗自编码器的无平行语料跨语言分布式表示学习

    研究使用对抗自编码器从单语言分布中学习向量表示法，以实现不同自然语言间的向量兼容性，初步结果表明该技术可用于跨语言句子表达。

    Aug, 2016

  • 通过敌对训练利用多语言能力在低资源神经机器翻译中的应用

    本文提出了一个 DAASI 方法用于多语言语言对的句子插值， 该方法可通过学习源语言和目标语言的中间潜在表示来优化基于 GAN 的多语言翻译模型。实验证明，在低资源语言对上，该方法的表现超过了现有的最先进方法，性能提高了最多 4 BLEU 分数。

    Mar, 2023

  • 无标签辅助语言的跨语言依存句法分析

    本文中提出采用对抗性训练从辅助语言中提取无标注句子帮助学习跨语言不变表示，进而用于跨语言转移，通过实验证明，对抗性训练能有效提高依存句法分析的跨语言性能。

    Sep, 2019

  • 轻量级跨语言句子表示学习

    本文介绍了一种轻量级双变压器体系结构，用于生成记忆高效的跨语言句子表示。同时，还提出了一种新的跨语言语言模型，并引入了两个计算良好的句子级对比学习任务，以提高跨语言句子表示空间的对齐度，从而补偿生成任务的学习瓶颈。实验结果表明，在跨语言句子检索和多语言文档分类方面，与竞争模型相比，我们提出的新的训练任务有效性更高。

    May, 2021

  • 用于零样本跨语言传递和更多应用的大规模多语句向量化技术

    该研究介绍了一种以单个 BiLSTM 编码器为基础的多语言句子表示架构，其使用共享的 BPE 词汇表来学习 93 种语言的嵌入表示，并在公开可用的平行语料库上进行了训练。使用英文注释数据进行分类器训练，可将其转移至任何一种语言，且可以在跨语言自然语言推理、文档分类和平行语料库挖掘中取得良好效果。

    Dec, 2018

  • 多任务双编码器模型学习跨语言句子表示

    探索了一种使用双编码器学习跨语言句子表示的自然环境，以克服多语言神经语言建模中标记化非英语数据的缺乏，并在许多单语、跨语言、零样本 / 少样本学习任务上对跨语言表示进行了全面评估，并分析了不同的跨语言嵌入空间。

    Oct, 2018

  • 通过软对比学习改善多语言对齐

    提出新的方法来对齐多语种嵌入，基于单语种嵌入模型中句子的相似性测量；实验证明我们的方法在多语种数据集上表现出色，优于现有的多语种嵌入方法和对比损失方法。

    May, 2024