ACLJun, 2019

通过深层双语表示重新排名来改善低资源跨语言文档检索

PDF
TL;DR本文提出了一种使用深度双语查询 - 文档表示来提高低资源跨语言文档检索性能的方法，并通过包括查询似然得分等额外特征，有效学习使用少量相关性标签为低资源语言对重新排序检索到的文档的模型。实验结果表明，本模型在 MATERIAL 数据集上优于竞争的基于翻译的对英斯瓦希里语、英语 - 塔加洛语和英语 - 索马里语跨语言信息检索任务的基线模型。
low-resource cross-lingual document retrievaldeep bilingual query-document representationscross-lingual word embeddingsquery likelihood scoresmaterial dataset
发现论文，激发创造
  • 大规模语言模型的零射击跨语言再排序用于低资源语言

    研究表明，大型语言模型在各种文档重新排序任务中展现了令人印象深刻的零样本能力。本研究探讨了大型语言模型在非洲语言的跨语言信息检索系统中的重新排序效果，研究结果显示，跨语言重新排序的效果可能与语言模型的多语言能力相关，且在英语中重新排序仍然最为有效。

    Dec, 2023

  • BERT 下的跨语言信息检索

    使用 BERT 模型在多语言语料中训练跨语言信息检索模型，实验结果显示该模型在英语查询与立陶宛语文档的信息检索任务中优于其他竞争模型

    Apr, 2020

  • 跨语言信息检索的简洁有效神经排序和重排序基线

    该研究旨在提供一种用于跨语言检索模型的组织框架，并在 TREC 2022 NeuCLIR 中的三种语言测试集上实现基于此的可重复现的基准线。

    Apr, 2023

  • 学习表示双语词典

    该研究提出了一种神经嵌入模型，利用双语词典将文字定义映射到双语目标词汇，探索不同的句子编码技术以及采用多任务学习和联合学习等关键学习策略来增强学习过程，实验结果表明，该模型在跨语言反向字典检索任务和双语释义识别问题上表现优异，并有效地解决了双语释义识别问题。

    Aug, 2018

  • 基于双语词嵌入映射的神经跨语言关系抽取

    本文提出了基于双语词向量映射的方法，将一个好的源语言神经网络关系抽取模型直接应用于目标语言，从而实现了跨语言关系抽取模型的转移。实验证明该方法在多种目标语言中表现出较好的性能。

    Oct, 2019

  • 面向资源匮乏语言的跨语言任务特定表示学习用于文本分类

    使用双向 LSTM 网络与相似度度量的对比损失函数，通过在共同空间中学习资源贫乏和资源丰富句子的表示方法，实现了情感分析和表情符预测等文本分类任务中对资源贫乏语言（如印地语和泰卢固语）和资源丰富语言（如英语和西班牙语）进行有效分类的目标。

    Jun, 2018

  • 利用词对齐改进低资源语言的跨语言句子嵌入

    跨语言句子嵌入领域最近取得了很大的进展，但是由于平行语料的稀缺性，对于低资源语言的研究相对滞后。本文表明当前模型中低资源语言的跨语言词表示与高资源语言的对齐程度明显不足。为了解决这个问题，我们引入了一种新的框架，通过使用现成的词对齐模型，显式地对英语和八种低资源语言之间的单词进行对齐。该框架包含三个主要的训练目标：对齐的单词预测、单词翻译排序，以及广泛使用的翻译排序。我们通过在双语检索任务上进行实验证明了我们的方法，该方法在低资源语言的句子嵌入上取得了显著的改进。此外，所提出模型在高资源语言上更广泛任务的竞争性表现凸显了其实用性。

    Apr, 2024

  • 使用平滑学习进行跨语言文档检索

    本文提出了一种新的端到端鲁棒框架，该框架采用新的相关性度量方法（平滑余弦相似度）和新的损失函数（平滑序列搜索损失）来解决神经文档搜索模型的不稳定性问题，并在跨语言文档检索任务中取得了显着的性能提升。

    Nov, 2020

  • 多语言文本编码器在跨语言检索中的应用

    通过系统实证分析，我们发现预训练的最新型多语言编码器并不能显著超越早期基于跨语言单词嵌入的模型在无监督文档级和句子级交叉语言信息检索方面的性能，但在经过监督学习优化的条件下，可在句子检索中取得最高准确率，并通过局部相关性匹配和对特定领域对比微调等方法最大程度提升排名质量，还揭示了基于单语数据训练的检索模型会出现 “单语过度拟合” 的现象，这与针对特定目标语言的单语信息检索的交叉语言转移存在显著差异。

    Dec, 2021

  • 跨语言文档表征的映射转换器增强嵌入

    使用 Transformer Leveraged Document Representations（TLDRs）在不同语言之间实现文档表示，并通过评估多个预训练的多语言 Transformer 模型确定最佳映射方法，结果显示跨语言表示通过预训练的 Transformer 和映射方法取得了良好的效果，为拓展语言之间的联系提供了有希望的方向。

    Jan, 2024