Apr, 2020

用语义残留嵌入补充词汇检索

PDF
TL;DR本论文提出了 CLEAR 模型，它采用神经嵌入匹配模型的语义匹配信号来补充传统的基于词汇精确匹配的模型，通过一种基于残差的嵌入学习方法，明确地训练嵌入来编码语言结构和语义，实验证明了 CLEAR 在终端到端的准确性和效率等方面相比于最先进的检索模型有显著的优势，并且可以显著地提高重排流水线的吞吐量和精度。
发现论文，激发创造
  • CLEAR: 句子表示的对比学习

    本研究提出了 CLEAR 方法，利用多种句子级别数据增强策略来学习一种噪声不变的句子表示。通过多个实验发现数据增强的不同方法会在下游任务中带来不同的性能提升，并且本方法在 SentEval 和 GLUE 基准测试中的表现优于多种现有方法。

    Dec, 2020

  • 利用词汇资源学习多关系数据中实体嵌入

    提出了一种使用词汇资源的描述和分布式语义语料的相关信息的简单方法，以更好地初始化关系模型的训练，在 WordNet 数据集上表现出了显着的最新性能。

    May, 2016

  • 利用语义和词汇匹配提高文档检索系统召回率：一种混合方法

    本文研究将深度神经网络模型与词汇模型相结合应用于搜索引擎的检索阶段，并在 TREC 数据集上进行了实证研究，结果表明该方法得到了很好的效果，并揭示了语义方法、词汇方法以及二者结合的不同特点。

    Oct, 2020

  • 面向大规模检索的词库增强密集检索器 (LED)

    本研究提出一种基于知识蒸馏的方法，将富有知识的词典嵌入模型对齐到密集检索模型中，从而在第一阶段检索中取得稳定且显著的提高。在三组公开数据集上的实验证明了该模型的有效性，并且与标准排名器蒸馏相结合可以进一步提高检索效果。

    Aug, 2022

  • 跨语言 IR 的神经匹配模型研究

    通过研究交互式神经匹配模型，结合多语言词向量，为跨语言信息检索建立端到端系统提供了途径。

    May, 2020

  • 注入词库的短语嵌入用于命名实体识别

    本文提出了一种新的学习单词嵌入的方法，可以利用相关词汇表的信息来改进单词表示，并使用神经单词嵌入在 CoNLL 和 Ontonotes NER 中实现了最先进的结果。在公共数据上取得了 90.9 的 F1 评分，优于以前的任何系统，并与使用私有工业查询日志数据的系统匹配。

    Apr, 2014

  • 神经信息检索中的词汇匹配研究

    本文研究了神经信息检索模型在词汇匹配方面的能力，提出了与 “理想” 匹配性的不一致度量，并研究了不同的最先进的神经信息检索模型的行为。结果表明，这些模型在对于重要术语时无法实现词汇匹配，从而在跨领域检索上表现不佳。

    Dec, 2021

  • RETRONLU：检索增强的任务导向语义解析

    使用检索式建模的思想，为会话助手的多领域任务定向语义解析问题引入了 RetroNLU 方法，通过在序列到序列模型中扩展检索部件，我们的技术在语义解析的不同语言表达复杂度下均比基线更为出色，尤其是在数据稀缺环境下，只需 40％的数据即可达到基线模型准确度的匹配，超越基线方法 1.5％的绝对宏 - F1。

    Sep, 2021

  • CLEAR：基于预训练语言模型的交叉变压器在个人属性识别和检索中的应用

    本研究提出了 CLEAR 模型，通过引入鲁棒的交叉变换网络解决人物属性识别问题，并利用预训练语言模型构建属性查询的伪描述，通过训练适配器来处理检索任务，CLEAR 模型在 PETA、PA100K、Market-1501、RAPv2 和 UPAR-2024 等五个基准测试上取得了最先进的性能结果。

    Mar, 2024

  • 评估信息检索嵌入式 API

    通过对话题建模，本文分析了语义嵌入 API 在真实检索场景中的行为，如能力，成本及最佳实践等问题，为读者提供了适合其需要的合适的服务建议。

    May, 2023