May, 2018

使用 Wasserstein Procrustes 实现无监督嵌入对齐

PDF
TL;DR本文旨在提出一种新的基于正交矩阵和置换矩阵联合估计的点集对齐算法，并应用在自然语言处理和计算机视觉领域的单语数据的无监督单词翻译问题中，实现了比竞争对手更先进效果却需要更少的计算资源
point alignmentnatural language processingcomputer visionadversarial trainingword embeddings
发现论文，激发创造
  • 分布式词嵌入的无监督对齐

    本文提出一种基于随机优化的方法，利用概率嵌入技术实现了跨领域的编码对齐，可以成功用于无监督单语言嵌入的双语词汇表推断，且在无监督词汇翻译任务中表现优异。

    Mar, 2022

  • 多语言词嵌入的无监督超级对齐

    本文研究了将在多种语言中学习到的连续单词表示对齐到一个共同空间的问题，并提出了一种新的方案来保证映射的组合性，从而在维持直接单词翻译的竞争性表现的同时，实现了间接单词翻译的更好对齐。

    Nov, 2018

  • 词嵌入空间的 Gromov-Wasserstein 对齐

    本文将跨语言对应问题直接建模为最优传输问题，通过利用测度恢复算法所产生的词嵌入，使用 Gromov-Wasserstein 距离测量不同语言中单词对的相似度，并证明了该模型在无监督翻译任务中表现良好，效果与当前最先进技术相当。

    Aug, 2018

  • 对齐嵌入和几何随机图：Procrustes-Wasserstein 问题的信息结果和计算方法

    我们研究了 Procrustes-Wasserstein 问题，使用欧几里得传输成本作为性能度量，提出了 Ping-Pong 算法，用于匹配高维点云，并与现有方法进行比较。

    May, 2024

  • 无监督的跨语言词向量空间转移

    本文提出了一种基于无监督学习的算法，通过分布匹配和最小化回译损失来优化两种语言单词嵌入空间之间的转换函数，使用神经网络计算 Sinkhorn 距离评估性能并在跨语言词汇相似度预测和双语词汇归纳等任务中具有强大的性能。

    Sep, 2018

  • 词嵌入空间的量化瓦瑟斯坦普鲁克斯对齐

    提出一种基于投影的无监督量化 Wasserstein Procrustes（qWP）CLWE 模型，该模型利用源和目标单语嵌入空间的量化步骤来估计排列矩阵，以改善经验 OT 求解器的逼近质量，从而在计算成本固定的情况下取得了最先进的双语词典归纳（BLI）任务结果。

    Dec, 2022

  • 基于概念的弱监督对抗学习用于跨语言词嵌入

    本论文提出了一种基于概念的弱监督对抗训练方法，通过将单词映射到连续向量的分布表示法，实现不需要大量平行数据（如字典或句子对齐语料库）的语言间互译，并针对语言间距离大的情况，在大多数语言上改善了以前无监督的对抗方法的性能。

    Apr, 2019

  • 通过微调平行语料库中的嵌入来进行单词对齐

    该论文探讨了一种嫁接预训练语言模型和平行文本的方法来提高单词对齐质量的方法，提出了从这些微调模型中有效提取对齐信息的新方法，并证明了它们在五种语言对上优于之前的最先进模型，还演示了开源的具备预训练模型的 AWESOME 单词嵌入式多语言编码对齐器的实际性能

    Jan, 2021

  • 面向几何感知的领域自适应方法用于词嵌入无监督对齐

    提出了一种基于流形的几何学方法，用于学习源语言和目标语言之间的无监督对齐单词嵌入。该方法将对齐学习问题进行了公式化，并将其视为具有两倍随机矩阵的流形上的域自适应问题。实验表明，该方法在多种语言对的双语词汇识别任务上优于现有的最优传输方法，尤其对于远程语言对的性能改进更为显著。

    Apr, 2020

  • 非对抗式无监督单词翻译

    本文介绍了一种基于迭代匹配方法的无监督单词翻译方法，该方法在欧洲和非欧洲语言单词翻译任务中表现优于最新的深度对抗方法，并且具有可解释性。

    Jan, 2018