word prediction | BriefGPT - AI 论文速递

关键词word prediction

搜索结果 - 7

通过扩展的 RNN 与 Bi-LSTM 模型在 N-gram 语言上增强孟加拉语下一个单词预测和句子完成
本研究论文介绍了一种有效处理孟加拉语下一个词预测和孟加拉语句子生成的双向长短期记忆网络模型，扩展了孟加拉语处理的范围，具有多样性和潜在影响力，在各种新闻门户网站上构建了语料库数据集，并在单词预测方面取得了卓越结果，uni-gram、bi-g
PDF2 months ago
ACL利用语义启动测试探究 BERT 对词汇线索的敏感性
本文通过对预训练的 BERT 模型进行语义启动测试的案例研究，发现该模型在上下文中使用词汇线索来确定其单词概率，并强调考虑上下文约束效应对于研究这些模型中的词预测的重要性，同时突出了与人类处理的可能性相似之处。
PDF4 years ago
EMNLP基于嵌入式深度学习的单词预测
本文提出了一种基于嵌入式深度学习的单词预测方法，该方法优化了运行时内存，并提供了实时预测环境。新模型的大小为 7.40MB，平均预测时间为 6.47ms。我们在按键节省和单词预测速率方面比现有模型有所改进。
PDF7 years ago
TopicRNN: 一种具有长程语义依赖的循环神经网络
本文提出了基于 TopicRNN 的语言模型，它结合了 RNN 和潜在主题模型的优点，能够捕捉本地（句法）和全局（语义）依赖关系，并更好地预测单词。实证结果表明，TopicRNN 在单词预测方面优于现有的上下文 RNN 基线，并且可以作为无
PDF8 years ago
EMNLP使用数字基础条件语言模型进行临床文本预测
研究如何通过引入结构化的知识库和文本中的数字值来扩展标准神经语言模型，并在医学数据集上进行评估，结果显示扩展模型明显优于标准模型，预测单词的正确率从 25.03% 提高到 71.28%，输入速度缩短了 34.35% 至 44.81%。
PDF8 years ago
ACL一种用于语篇关系语言模型的潜变量循环神经网络
本文提出了一种新颖的潜变量循环神经网络架构，用于同时建模词序列和相邻句子之间的（可能潜在的）言语关系。它通过循环神经网络生成单个单词，并可以使用潜在变量表示言语关系。该模型可以使用既包括言语关系分类又包括词预测的训练目标，从而优于最先进的替
PDF8 years ago
EMNLP整合语言模型与语义信息的词语预测组件方法
本文研究了使用 Latent Semantic Analysis（LSA）方法增强语言模型的预测能力，并提出并评估了几种整合 LSA 的方法，包括语义缓存，部分重新排序和插值等。与 4-gram 基线和简单缓存模型相比，我们发现所有的方法都
PDF16 years ago