WWWFeb, 2020

学习上下文化的医疗答案检索文档表示

PDF
TL;DR本文提出了基于结构化查询元组和医疗术语的语境话语向量（CDV）来有效地从长篇医疗文档中检索答案的方法。该方法利用了层次 LSTM 神经网络，其位置编码的编码能力以及在句子层面上的近似最近邻搜索技术。研究结果表明，我们的方法在医疗段落排名方面表现优于现有的多个基准，并且适应多领域且不需要额外的微调。
contextual discourse vectorsanswer retrievalhealthcare documentsstructured query tuplesdual encoder
发现论文，激发创造
  • 无监督上下文化文档表示

    该研究提出一种简单而有效的无监督表示方法 SCDV+BERT (ctxd)，通过结合上下文化的 BERT 方法和 SCDV 软聚类方法来处理单义和上下文特性的词语。研究表明，在多项分类数据集和概念匹配和句子相似性等任务中，此嵌入方法的性能优于原始 SCDV、预训练 BERT 和其他基线模型，尤其在数据稀缺和少样本学习任务中比微调 BERT 和不同嵌入方法表现更好。

    Sep, 2021

  • VCDM: 利用变分双编码和深度上下文化单词表示来改进定义建模

    本研究提出了一种生成模型来处理定义建模任务，并使用变分推断进行估计，并利用上下文化的词嵌入来提高性能，其在四个基准测试中均取得了最先进的表现。

    Oct, 2020

  • 医学概念的多层表示学习

    本研究提出了一种基于电子病历数据的的 Med2Vec 方法，通过学习医学代码和访问的分布式表示形式，利用序列访问顺序和访问内部代码的共现关系提供临床医生可验证的基础， 在关键医学应用中显示出与流行基线（如 Skip-gram、GloVe 和堆叠自动编码器）相比的显着改进。

    Feb, 2016

  • 医疗信息学分类问题中基于单词和上下文表示的比较

    本文研究了分布式文本表示的应用，比较了基于单词向量和基于上下文的句子向量两种表示方式在不同分类问题下的效果，结果显示，基于 ELMo，Universal Sentence Encoder，Neural-Net Language Model 和 FLAIR 的上下文表示效果较好，相较于基于词向量的表示，分类准确率提高了 2-4%。

    Jun, 2019

  • 基于话语和上下文嵌入的检索式对话系统

    本文利用局部敏感哈希树 LSH Forest 实现了基于向量表示的答案检索，并探讨了使用候选项选择方法时，这种方法的优越性。在 Ubuntu 语料库和荷兰的客户服务聊天数据集上进行的实验结果表明，检索式方法优于生成式方法，并揭示了未来研究方向。

    Oct, 2017

  • 利用图神经网络嵌入临床代码和文本的多视图联合学习框架

    本文提出了一种多视图学习框架，结合 ICD 代码和文本以提高临床机器学习应用的性能，采用图神经网络（GNN）和 Bi-LSTM 处理输入信息，并应用深度典型相关分析（DCCA）来强制实现两个视图的相似表示。实验结果表明，本方法在临床和多样文本应用中都具有良好的性能。

    Jan, 2023

  • 多视角文档表示学习在开放域密集检索中的应用

    本文提出了一种多视角文档表示学习框架，通过生成多个视图嵌入来表示文档，并通过全局 - 局部 loss 函数来防止多视图嵌入坍塌到同一个嵌入中，实现了稳定性的匹配，在密集检索方面取得了最新的成果。

    Mar, 2022

  • 层次化神经语言模型：流文档及其内容的联合表示

    采用嵌套的神经语言模型构建的分层框架可以同时学习文档和单词的分布式向量表示，该模型在数据流中取得了有效的结果，并可以通过添加用户层来学习个性化的偏好向量

    Jun, 2016

  • Doctor2Vec: 临床试验招募的动态医生表示学习

    本文提出 doctor2vec，利用临床试验描述和分类信息以及医生从 EHR 数据中学习医生代表的动态记忆网络，为临床试验招募合适的医生提供了方法，实验证明其性能优于最佳基线，而 doctor2vec 嵌入式还可用于数据不足的情况。

    Nov, 2019

  • 问答中用于 top-k 文档检索的增强向量

    提出一种新的文档检索方法，通过赋予每个文档一个唯一标识符和使用密集矢量进行索引，以实现高效准确地检索问题答案所需的证据文档，适用于对话聊天机器人等情景。

    Oct, 2022