Jul, 2021

跨语言密集文段检索的多语言问答模型

PDF
TL;DR本研究提出 Cross-lingual Open-Retrieval Answer Generation (CORA) 模型，它是第一个可以回答跨多种语言问题的问答模型，利用密集型检索算法，与多语言自回归生成模型相结合，即可实现直接在目标语言下回答问题，获得了显著的效果提升，特别是在低资源环境下。
发现论文，激发创造
  • ZusammenQA：专用模型数据增强的跨语言开放检索问答系统

    该论文提出了一种用于 COQA 多语言问题解答的系统，该系统使用多种模型变体在数据增强、语段检索和答案生成三个主要组件上进行了研究，并结合语言模型预训练和数据增强等方法有效提高了针对低资源语言的表现。

    May, 2022

  • XOR QA：跨语言开放检索问答

    通过使用跨语言开放检索问题回答，扩展多语言问答任务，解决信息匮乏和信息不对称问题。在 TyDi QA 上构建了一个大规模数据集，并建立了三个跨语言文档检索任务的基线。利用机器翻译系统和跨语言预训练模型，在实验中得出 XOR QA 是一个具有挑战性的任务，将促进多语言问答技术的开发。

    Oct, 2020

  • 大规模综合监督的跨语言开放领域问答预训练

    基于自我监督方法的编码器 - 解码器模型在跨语言问答中表现出色，利用维基百科的跨语言链接结构，综合生成监督信号，提高了检索和回答生成的性能，相比于其他方法，包括机器翻译，CLASS 方法在监督和零资源语言适配等方面均取得更好的效果。

    Feb, 2024

  • 多语言池中的语言无关答案检索

    介绍了 LAReQA - 一项新的挑战性基准测试，可从多语言候选池中进行语言无关的答案检索。在基于多语言 BERT 的基础上，研究了实现强交叉语言对齐的不同策略，发现通过机器翻译增加训练数据是有效的，同时，该基线在 LAReQA 上表现最好，但在仅瞄准 “弱” 对齐的任务中却不及竞争基线，这突显了语言无关检索是一种实质性新型跨语言评估。

    Apr, 2020

  • 应对新兴领域开放检索式问答系统中的跨语言性问题

    本文提出了一种跨语言的开放检索问答系统，使用科学文章语料库保证检索到的文档的可靠性；通过利用自动翻译、对齐和过滤来产生英文 - 全语言数据集，缓解新兴语境下跨语言训练数据的稀缺性。结果表明，在使用我们的英文 - 全语言数据进行训练后，深度语义检索器在跨语言设置中明显优于 BM25 基线。

    Jan, 2022

  • MIA 2022 共享任务提交：利用实体表示、密集稀疏混合和解码器中的融合进行跨语言问答

    本文介绍了针对 Multilingual Information Access 2022 中 Cross-Lingual Open-Retrieval Question Answering 的任务的一个二阶段系统，包含多语言的检索和回答机制，使用了基于 entity 的多语言语言模型、稀疏信号和 Fusion-in-Decoder 等策略来提高表现。在测试集和开发集中，该系统的平均 F1 分别为 31.61 和 32.73，与官方基准线相比提高了 4 个 F1 分数。

    Jul, 2022

  • RocketQA: 开放领域问答中基于密集文本检索的优化训练方法

    本文提出了一种优化的训练方法 RocketQA 来改进密集问答检索，通过跨批次负样例、去噪硬负样例和数据增强等三种策略的实验，证明该方法在 MSMARCO 和 Natural Questions 上都显著优于之前的最先进模型，并提高了 end-to-end QA 的性能。

    Oct, 2020

  • 多语言开放领域问答中的信息不一致性研究

    本研究针对基于检索的开放领域问答系统，探究多语言环境下文献信息不一致的问题，分析多语言开放领域问答模型的检索偏差，探讨文化差异和信息不一致性对模型的影响。

    May, 2022

  • 交叉注意力监督数据增强在问答神经检索中的应用

    通过使用数据挖掘和神经网络构建早期和晚期融合的混合模型，我们展示了一种有效的方法，可以提高在大型语料库中连续空间检索的性能

    Sep, 2020

  • PAXQA: 在训练规模上生成跨语言问答实例

    本文提出了一种利用现有平行语料库进行间接监督的跨语言问答（QA）的合成数据生成方法，并使用词汇约束的机器翻译提高翻译质量，生成了跨越 4 种语言的 662K QA 样例数据集，并通过消融研究证明了该方法相对于自动单词对齐的噪声比较稳健。

    Apr, 2023