Oct, 2014

BilBOWA：快速双语分布式表示，无需词语对齐

PDF
TL;DRBilBOWA 是一种简单、高效的双语词袋模型，可以在大型单语数据集上进行规模化学习，并且不需要单词对齐的平行训练数据，通过使用一种新颖的跨语言词袋采样方法实现双语信号的提取，使用噪声对比性语言模型进行规范化处理，学习到的双语嵌入能够在跨语言文档分类任务和 WMT11 数据的词汇翻译任务上优于现有的方法。
bilbowabilingual distributed representationscross-lingual feature learningdocument classificationlexical translation
发现论文，激发创造
  • 从对齐文本数据中提取的双语分布式词向量表示

    提出一种新的基于非平行文档对齐数据的学习双语词表示的模型，通过比较与多语言概率主题建模和分布式本地环境计数模型的方法，表明该模型可以从仅基于文档对齐可比数据学习。该模型可以用于双语词汇的词典项提取和多义词的单词翻译。

    Sep, 2015

  • 无需双语语料库的跨语言词嵌入学习

    使用高覆盖率的字典和 EM 式训练算法，该方法解决了以前的跨语言词嵌入方法中的资源需求大、难以融合单语言数据或难以处理多义词等问题，在双语词汇表归纳任务中实现了表现卓越的结果，并且在单语词汇相似度和跨语言文档分类任务上也取得了有竞争力的结果。

    Jun, 2016

  • 无需单词对齐的多语言分布式表示

    提出了一种在多语种情况下学习分布式表征的方法，该方法将分配相似的嵌入对齐句子，并分配不对齐的句子不相似的嵌入，模型学习到的表征具有语义信息，能够应用于跨语种文档分类任务，且未使用并行数据学习到能够跨语种捕捉语义关系的表征。

    Dec, 2013

  • 使用词袋自动编码器学习多语言单词表示

    本文研究了一种自编码器模型，用于学习多语言单词表示，不需使用单词层面对齐。实验证明，该方法在多语言文档分类方面具有较好的表现，且与利用单词层面对齐的方法相比具有竞争力。

    Jan, 2014

  • 无平行数据的单词翻译

    本文通过无监督的方式对单语词嵌入空间进行对齐，构建两种语言之间的双语词典，旨在为全自动的机器翻译提供潜在影响。实验表明该方法在英语 - 俄语和英语 - 中文等语言对中效果很好，且无需使用字符信息。

    Oct, 2017

  • 通过边缘化对齐来学习双语词表示

    本文提出了一种概率模型，同时学习对双语数据的对齐和分布式表示。通过在单词对齐上进行边缘化，该模型捕获比先前依赖于硬对齐的方法更大的语义上下文。该方法的优势在跨语言分类任务中得到了证明，我们超越了先前已发布的最新技术水平。

    May, 2014

  • 来自平行句子的稳健跨语言嵌入

    提出一种基于双语 CBOW 方法的联合学习方法，通过利用句子对齐语料库获得强健的跨语言词和句子表示，显著提高了跨语言句子检索性能，并在维持单词翻译方面与最先进的方法并驾齐驱，同时在零 - shot 跨语言文档分类任务方面达到深度 RNN 方法的水平，对单语词向量的提高优势明显。

    Dec, 2019

  • 从双语对齐到多语对齐：无监督平行文本挖掘

    本文提出一种跨语言句子表示的学习方法，介绍了双轴转移的训练策略，并通过实验表明这种策略可以应用于获取具有多语言对齐的句子表示。

    Apr, 2021

  • 一种自编码器学习双语词表示的方法

    本文探讨了不依赖词级对齐的跨语言自编码器方法，学习在两种语言之间对齐的词矢量表示，并提出了一种显式的相关性最大化正则化器来提高性能，并在跨语言测试分类问题上进行了实证研究，其结果与现有研究表现相当甚至取得了 10-14 个百分点的提高。

    Feb, 2014

  • Trans-gram，快速跨语言词向量

    Trans-gram 是一种简单且计算效率高的多语言学习方法，使用仅有的各种语言的单语数据和较小的句子对齐数据，同时学习和对齐单词嵌入表示。该方法使用英语作为轴心语言，计算出 21 种语言的对齐单词嵌入表示，通过该方法实现了跨语言文本分类和单词翻译任务的最先进结果。

    Jan, 2016