Apr, 2017

探索词嵌入技术在无监督文本用户生成内容归一化中的应用

PDF
TL;DR提出了一种基于词的分布式表示（或词嵌入）的独立于语言和领域，完全无监督并可扩展的方法，用于从单词嵌入中学习规范化词典，以修正巴西葡萄牙语产品评论中的拼写错误和互联网俚语，相比当前可用的工具表现更好。
发现论文，激发创造
  • 从词袋到 transformers: 面向巴西葡萄牙语用户评论的文本分类嵌入生成

    本文分享了实验的结果，探讨在自然语言处理领域中，以仿射变换为基础的学习模型（Transformer-based Language Models，简称 TLM）作为最佳模型，实现对巴西葡萄牙语用户评论的情感分析，该研究对 Bag-of-Words 到 Transformer-based NLP 模型进行了评估。

    Dec, 2022

  • 通过对齐异构词汇语义空间实现未见词表示

    本文提出了一种利用词典等词汇资源，采用图嵌入和跨语言向量空间转换技术，为未见过的单词诱导嵌入的方法，对多个基准测试进行了优化，表现出一致的性能提升。

    Nov, 2018

  • 使用通用和特定词嵌入来分类研究的翻译阶段

    本文探讨使用无监督学习的方法，通过单词嵌入在词向量空间内学习语义相似性，以实现对文本分类任务的性能优化。研究发现，使用领域特定的词嵌入可以提高分类性能。

    May, 2017

  • 利用语义桥梁学习罕见词汇的表示

    本文提出一种方法学习语言的词汇，并使用图嵌入技术和跨语言向量空间映射方法结合本体源和语料库来提高现有词向量的覆盖范围以及加强其词汇知识。所提出的方法在 Rare Word Similarity dataset 上表现出 10% 的性能提升。

    Jul, 2017

  • 一种集成方法生成高质量的词向量嵌入（2016）

    本文提出了一种集成方法，通过将 GloVe 和 word2vec 的嵌入方式与语义网络 ConceptNet 和 PPDB 的结构化知识相结合，将它们的信息融合成一个具有大型多语言词汇的共同表示，并达到了许多词语相似性评估的最先进性能

    Apr, 2016

  • 使用本地训练的单词嵌入进行查询扩展

    本文研究了词嵌入在查询扩展中的应用，结果表明全局训练的 Word2Vec 和 GloVe 等词嵌入不能很好地完成信息检索任务，建议其他使用全局嵌入的任务也可以受益于使用局部嵌入。

    May, 2016

  • 使用子词信息丰富单词向量

    本文提出一种基于 skip-gram 模型的新方法，其中每个单词被表示为一组字符 n-grams 的加和。该方法快速、可在大型语料库上快速训练模型，同时可以计算未出现在训练数据中的单词的表示。我们在九种不同的语言上评估了我们的单词表示，通过与最近提出的形态单词表示进行比较，我们发现我们的向量在这些任务上达到了最先进的性能。

    Jul, 2016

  • 现有词嵌入方法的全面实证评估

    本文通过对现有单词嵌入方法的特点和分类任务的分析，将单词嵌入方法划分为传统方法和基于神经网络的方法，揭示基于神经网络的单词表示方法相比于传统方法更能捕捉语言的语义和句法规律。实验验证了不同方法的性能差异。

    Mar, 2023

  • 利用词嵌入进行聚类的语言模型用于文本可读性评估

    使用聚类方法基于词向量的语言模型，在一个更高语义空间中依据文本回归的特征表现显著优于之前的技术方案，同时具备与文档长度变化相关性自适应的能力。

    Sep, 2017

  • 命名实体识别中的上下文嵌入：一项关于泛化的实证研究

    本文通过经验分析，将提到的未知名称根据新奇性和域外评估进行分离，并证明了最新情境嵌入模型在发现前所未见的名称方面特别有益，尤其是在域外评估中。

    Jan, 2020