neural word embeddings | BriefGPT

关键词neural word embeddings

搜索结果 - 6

基于子空间嵌入的轻量级神经语言模型适应
我们提出了一种新的紧凑嵌入结构，通过对预训练语言模型中的标记之间的上下文关系进行一组子空间嵌入和分配过程，来减少预训练语言模型的内存占用，牺牲高达 4% 的绝对准确率。我们的实验结果表明，子空间嵌入在 XNLI 和 GLUE 基准套件上与原
PDFa year ago
AAAI一种因果推断方法用于减少词嵌入关系中的性别偏见
本研究提出了一种基于统计依存关系的方法来消除词向量关系中的性别偏差，有效避免了词向量关系中存在的性别偏见问题，并在多个联想任务中实现了最先进的结果。
PDF5 years ago
超越词嵌入：从大规模知识库中学习实体和概念表示
本文提出了一种新颖而简单的技术，将来自不同结构的两个大型知识库中的概念知识（Wikipedia 和 Probase）整合起来，学习概念表示，并在两个任务上评估了概念嵌入模型：类比推理和概念分类，并展示了无监督环境中用于神经语义分析的参数识别
PDF7 years ago
负采样增量式 Skip-gram 模型
本文从经验和理论两个角度，探索了一种用于 skip-gram 模型的增量式训练策略，通过提供简单的增量式扩展并深入理论分析，解决了现有神经词向量嵌入算法（包括 SGNS）的多遍训练和无法进行增量式更新的问题，实证实验证明了其正确性和实用性。
PDF7 years ago
弥合差距：有效映射 PubMed 查询与文档的语义相似度度量
提出了一种基于 Word Mover's Distance 计算单词间距离的查询 - 文档相似度测量方法，利用神经词嵌入在检索无直接匹配的情况下发现相关词，并将其与 BM25 相结合，结果在 TREC Genomics 数据上平均精度平均提
PDF8 years ago
WWW文档排名双重嵌入空间模型
该研究旨在探究神经单词嵌入作为文件评级的证据源，并提出了一种双重嵌入空间模型（DESM），在 Bing 等商业 Web 搜索引擎中可以更好地对置顶文档进行重新排名。
PDF8 years ago