word2vec | BriefGPT - AI 论文速递

关键词word2vec

搜索结果 - 61

基于指南针对齐的分布式嵌入，用于研究语料库间的语义差异
本文提出了一个通用框架，用于支持使用单词嵌入进行跨语料库的语言研究，其中可以比较从不同语料库生成的嵌入项，以找出语料库之间的含义对应和差异。该框架的核心组件是 CADE，重点解决了从不同语料库生成的嵌入项的对齐问题。经过实验，结果表明 CA
PDF4 years ago
预训练语言模型的廉价领域自适应：生物医学实体识别和 Covid-19 问答的案例研究
本文介绍了基于目标域文本的 Word2Vec 的训练和对齐策略，用于适应已有的预训练语言模型，并在生物医学实体识别任务和 Covid-19 问答任务上取得了 60% 的 BioBERT-BERT F1 差距的覆盖率，且成本仅相当于 BioB
PDF4 years ago
KDDFanatics 推荐连续产品的顺序问题：采用嵌入 Word2Vec 的 LSTM
设计了第一款同时使用 Word2Vec 和状态 LSTM RNN 建模顺序序列的电子商务推荐系统，通过在 Spark 从机上使用单机训练的 Keras 模型进行分布式预测，在生产中的点击率优于仅使用 Word2Vec 的前身。
PDF5 years ago
通过全局增强方法提高短文本分类效果
本文研究了不同的文本扩充方法在分类应用中的影响，通过使用包括社交媒体和新闻文章在内的三个数据集，我们发现基于 Word2vec 的文本扩充是一种可行的选择，并且使用 mixup 可以进一步提高性能，并降低过拟合的影响。同时，通过翻译服务进行
PDF5 years ago
ACL欧盟立法上的大规模多标签文本分类
该研究在法律领域考虑了大规模多标签文本分类，提出了一个适用于 LMTC、few - 和 zero-shot 学习的新数据集 EURLEX，共包含 57k 个法律文档，注释有～4.3k 个 EUROVOC 标签；实验表明，具有标签注意力的 B
PDF5 years ago
KDD多义词的分布式表示：一种基于损失驱动的方法
本研究提出了一种名为 LDMI 的新模型，以用来估算单词的分布式表示，特别是针对多义词。实验表明，LDMI 相比其他方法在上下文单词相似性任务上具有更好的性能表现。
PDF5 years ago
从上下文到概念：利用 Word2Vec 探索音乐中的语义关系
使用 word2vec 计算模型探索多种风格音乐的语义信息，研究显示这种新的嵌入矢量表征实际上捕捉到了音乐的音调和和声特性，为深度学习模型提供了潜在的输入表示，并提供了音乐创作工具。
PDF6 years ago
EMNLPWord Mover's Embedding: 从 Word2vec 到文档嵌入
本文提出了一种名为 Word Mover's Embedding (WME) 的崭新方法，用于建立无监督文本分类的文档嵌入，同时比较了此方法与当前最佳方法在 9 个基准文本分类数据集和 22 个文本相似性任务上表现，结果均表明 WME 能够
PDF6 years ago
Magnitude: 一种快速高效的通用向量嵌入工具包
本文介绍 Magnitude 这个快速、轻量的工具，可用于利用和处理包括 word2vec、GloVe、fastText 和 ELMo 在内的向量空间嵌入模型。Magnitude 提供了能够有效处理大量嵌入向量的紧凑向量存储文件格式，并可执
PDF6 years ago
ICML使用深度学习分析铁路事故叙述
使用深度学习方法和强大的词嵌入来分类事故原因值，以及使用文本提取语义相关并帮助填写记述字段的主要原因的方法。
PDF6 years ago
在双曲空间中的 Skip-gram 词向量嵌入
本文介绍了一种在超几何空间中学习自由文本词嵌入的算法，并使用基于超几何距离的目标函数在 word2vec 的 skip-gram 负采样架构中进行。实验结果表明在超几何空间低维度中，超几何词嵌入具有潜在优势，但在一些方面和欧几里得词嵌入没有
PDF6 years ago
NTUA-SLP 在 SemEval-2018 任务 3 中，使用单词和字符级别注意力 RNN 集成跟踪讽刺推文
本研究提出了两个基于深度学习的系统，在 SemEval-2018 任务 3 “英文推文中的反讽检测” 中排名第二，并使用自我注意机制、双向长短时记忆循环神经网络，以及预训练的 word2vec 词向量来捕获推文中的语义和句法信息。
PDF6 years ago
IJCAI使用混合解码器的条件变分自编码器生成主题中国诗歌
本研究提出了一种新型的条件变量自编码器，该自编码器通过加入反卷积神经网络来完全学习潜在变量中的主题信息，进一步利用增强的 word2vec 模型来提高韵律和对称性，从而显著提高了生成诗歌的相关性，让生成的诗歌具有一致主题和规则性。测试结果表
PDF7 years ago
NIPS贝叶斯段落向量
本文提出了一种基于神经网络的段落向量的新解释，基于概率论的方法可以通过后验不确定性来在监督学习任务中提升性能，进一步提高了段落向量的研究应用。
PDF7 years ago
EMNLP高风险学习：从微小数据中获取新单词向量
本论文研究了分布式语义模型与小样本数据的问题，并展示了如何使用神经语言模型 Word2Vec，通过以前学习语义空间的背景知识，仅对其标准体系结构进行微小修改，以从微小数据中学习新术语，并在单词定义任务和少量上下文的例子任务中，相较于最先进的
PDF7 years ago
EMNLP基于 PMI 矩阵逼近的简单语言模型
该研究介绍了一种新的学习语言模型的方法，通过训练模型估计词 - 上下文点间互信息（PMI），并通过 PMI 在测试时求出所需的条件概率。
PDF7 years ago
DocTag2Vec：一种基于嵌入的文档标记多标签学习方法
本文提出了一个名为 DocTag2Vec 的新方法，通过在学习过程中同时学习单词，文档和标签的向量表示，来实现文档标记。与之前的多标签学习方法不同，它直接处理原始文本，旨在提高标签表示的学习和处理新创建标签的能力，并在多个数据集上展示了良好
PDF7 years ago
用 Word2vec 建模音乐上下文
本文基于 word2vec 模型提出了一种用于捕捉复杂音乐语境的向量空间模型，针对 Beethoven 的钢琴奏鸣曲数据集，利用 t 分布随机邻域嵌入可视化分析证明该模型成功捕捉到了音调关系。在一个类似的 word2vec 语境下，替换后的
PDF7 years ago
ACL上下文编码器：作为 Word2Vec 的简单而强大的扩展
通过把已学习的 word2vec 词向量矩阵与单词的平均上下文向量相乘，可以创建新的单词词向量并表示多重含义的单词。将这些词向量用作特征，对 CoNLL 2003 命名实体识别任务的改进效果得到了证明。
PDF7 years ago
Word2Vec 和词典在领域特定语义相似度方面的协同联合
本研究引入了一个领域特定的语义相似度方法，该方法是由 word2vec 和基于词典的语义相似度方法的协同联盟所创建的，并证明了该方法优于通用语料库和域特定语料库训练的词嵌入方法，还证明了词形归并可以提高词嵌入方法的性能。
PDF7 years ago