AAAIJan, 2022

使用神经检索器提高生物医学信息检索

PDF
TL;DR本研究旨在提高神经检索器在生物医学领域中的表现，提出了模板问题生成方法、两个新的预训练任务以及多维语境表示（Poly-DPR）技术，并通过 BioASQ 挑战实验证明该方法在小语料库方面超越目前的神经方法和 BM25。
information retrievalneural retrieversbiomedical domainquestion generationpoly-dpr
发现论文，激发创造
  • 神经检索器与超越：论文提案

    本篇论文提出三个方面的方法，包括新的模型架构、IR 导向的预训练任务、生成大规模训练数据，以解决神经检索器面临的问题，并探讨了多模式查询的未来研究方向和相应的解决方法。

    May, 2022

  • 知识密集型任务的多任务检索

    本文介绍了一个多任务学习的神经检索模型，该模型在少样本、领域内外多种问题下表现良好，能够有效地检索到相关上下文信息，并且在多个基准测试中实现了与或优于目前的最新技术结果。

    Jan, 2021

  • 神经信息检索：文献综述

    本研究总结了当前神经信息检索研究的情况，特别关注了问题和文档的学习性表示（即神经嵌入），强调了神经信息检索目前的成功之处，列出了其更广泛采用的障碍，并建议未来研究的潜在方向。

    Nov, 2016

  • 生物医学问答中的前 K 个相关片段检索

    我们在临床领域中通过对现有 DPR 框架的改进，从可靠的 Pubmed 文章中检索答案，使其在 BioASQ QA 数据集上的评估结果为 0.81 的 F1 得分。

    Aug, 2023

  • 为生物医学信息学学生引入信息检索

    我们开发了三项活动，向初级生物医学信息学（BMI）的学生介绍了自然语言处理（NLP）的信息检索，从 TF-IDF 到 BERT 的语言模型，这些活动为学生提供了与常见用例相关的实践经验，并引入了 NLP 工作流程的基本组成部分。

    May, 2021

  • 从阅读器向检索器提取知识以作问答之用

    本文提出了一种受到知识蒸馏启发的学习信息检索器的技术，在没有标注的查询和文档对的情况下，利用阅读器模型的注意力分数来获得检索器的合成标签，用于下游任务，最终在问题回答方面达到了最先进的结果。

    Dec, 2020

  • 信息检索的神经模型

    本文介绍了神经信息检索模型以及基础概念和直觉，包括传统的学习排序模型的学习技术和基于神经网路以原始文本学习语言表示的自然语言处理方法。同时，也简单介绍了浅层和深度的神经网络以及目前的深度神经网络检索模型，并探讨了神经信息检索未来的发展方向。

    May, 2017

  • LLM 可能主导信息检索：神经检索器偏向于由 LLM 生成的文本

    大型语言模型在信息检索应用中产生的源偏见以及相关的模型评估和研究的重要性。

    Oct, 2023

  • 信息检索的神经网络

    本研究论文旨在向初学者和有经验的研究人员介绍当前 IR 问题的深度学习中的神经方法，并涵盖了关键架构和最有前途的未来方向。

    Jul, 2017

  • 弱监督开放域问答的潜在检索

    本文提出了一种新的 open domain question answering 方法，利用问题 - 回答对来同时学习 retriever 和 reader，将 Wikipedia 中的证据检索视为潜在变量，并通过 Inverse Cloze Task 进行预训练。我们的方法在五个 QA 数据集上进行测试，表明在用户真正寻求答案的数据集上，学习检索至关重要，完全匹配方面的得分比传统的 IR 系统（如 BM25）高达 19 个点。

    Jun, 2019