ACLJun, 2019

医疗信息学分类问题中基于单词和上下文表示的比较

PDF
TL;DR本文研究了分布式文本表示的应用，比较了基于单词向量和基于上下文的句子向量两种表示方式在不同分类问题下的效果，结果显示，基于 ELMo，Universal Sentence Encoder，Neural-Net Language Model 和 FLAIR 的上下文表示效果较好，相较于基于词向量的表示，分类准确率提高了 2-4%。
发现论文，激发创造
  • 基于计数模型的词向量表示恢复

    该研究是关于使用基于计数的模型来提取文本的语义表征，使用 Hellinger 距离用于处理大型语料库中的单词共现统计数据，并获得了很好的性能表现。

    Dec, 2014

  • 利用上下文嵌入增强临床概念抽取

    本研究旨在研究新的语言表示方法（如 ELMo，BERT）在医疗概念提取方面的应用，比较这些方法与传统词嵌入方法（word2vec，GloVe，fastText）的性能表现，并探讨将这些表示方法应用于医疗任务的可能性。研究结果表明，基于大型医学语料库的上下文嵌入方法表现出色，优于现有所有方法。此外，与传统词表示相比，上下文嵌入方法还包含有价值的语义信息。

    Feb, 2019

  • 学习句子表示的高效框架

    本文提出一种从未标记数据中学习句子表示的简单有效的框架，通过将句子出现的上下文预测问题重新表述为分类问题，并基于句子向量表示来区分上下文句子和对比句子，并在多个下游 NLP 任务中展示了高质量的句子表示的超越性能以及训练时间的数量级加速。

    Mar, 2018

  • 深度上下文化语言表示在文本分类中的通用性分析

    该研究使用二进制新闻分类和产品评论情感分析两个任务，评估了两个最先进的深度上下文语言表示，ELMo 和 DistilBERT 的健壮性，旨在探索自然语言处理系统在通向适用于实际场景的系统的过程中的代表性能力的极限。结果显示，DistilBERT 在泛化到跨上下文设置时明显优于 ELMo。

    Mar, 2023

  • 上下文词表示：一个上下文介绍

    这篇论文介绍了自然语言处理领域的一个分支 —— 词向量，它们的产生、作用、历史发展以及现今面对的挑战，同时讨论了最新的研究成果 —— 上下文词向量。

    Feb, 2019

  • 上下文嵌入概述调查

    该综述评估了现有的上下文嵌入模型，跨语言多语预训练，上下文嵌入在下游任务中的应用，模型压缩和分析。

    Mar, 2020

  • 神经机器翻译的依赖于上下文的单词表示

    本文首次观察了神经机器翻译中不断向量表示的潜在弱点，基于此提出了利用非线性词袋表示法和类型化符号来提高对源语言和目标语言的区分度，从而显著提高了神经机器翻译系统的翻译质量。

    Jul, 2016

  • 深度上下文词表示

    本文介绍了一种新型的深层上下文词表示方法，既能够建模单词用法的复杂特征 (如句法和语义)，又能够建模这些用法在语言上下文中的变化 (即建模多义性)，这些表示可以轻松地添加到现有模型中，并且可以显著提高 NLP 问题的性能。

    Feb, 2018

  • 使用通用和特定词嵌入来分类研究的翻译阶段

    本文探讨使用无监督学习的方法，通过单词嵌入在词向量空间内学习语义相似性，以实现对文本分类任务的性能优化。研究发现，使用领域特定的词嵌入可以提高分类性能。

    May, 2017

  • 阅读理解的上下文化词表示

    论文研究了使用神经网络和预训练语言模型来提取文件中问题的答案，通过提供丰富的上下文表示并允许模型在上下文相关和上下文无关的单词表示之间进行选择，可以获得比现有技术更好的性能。

    Dec, 2017