关键词neural attention mechanism
搜索结果 - 6
- EMNLP斥力注意力:将多头注意力重新思考为贝叶斯推断
本文提出一种基于贝叶斯视角和粒子优化采样技术的非参数方法,通过显式提高多头注意力中的排斥力来增强表达能力,改善不同注意头的重复提取特征的问题,并在各种关注模型和应用程序上进行广泛实验,证明所提出的排斥式注意力可以提高学习到的特征多样性,从而 - 学习检测观点摘要用于方面情感分析
本研究提出了一种基于 hard-selection 的方法,利用预训练的 BERT 模型学习句子和方面之间的关联,通过自我评估强化学习检测看法片段,从而针对多方面句子进行情感分析,在处理准确性上表现优于软选择方法。
- 神经注意力实体袋模型用于文本分类
该研究提出了一种神经关注实体包模型,该模型是使用知识库中的实体来执行文本分类的神经网络模型。该模型通过字典中的高回召率实体检测和神经关注机制相结合,显著提高了在三个不同数据集上的分类效果。
- 自然语言问题回答问题的集成方法
该研究利用神经注意力机制提高机器阅读理解和问答的准确性,分析和比较多种神经网络模型,将其组成集成模型并在 SQUAD 数据集上测试,结果表明集成模型优于最佳模型 Mnemonic Reader。
- 基于分层注意力网络的在线论坛讨论摘要提取
本研究首次尝试使用分层注意力网络进行论坛帖子的总结,并使用神经注意力机制创建句子和主题表示形式,其结果表明,采用冗余剔除的方法能够提高论坛帖子总结的效果。
- 利用神经注意模型对放射学报告进行分类
本文提出了一种新颖的神经注意机制,采用了双注释数据集和深度学习模型来分类放射学头部计算机断层摄影报告,并使用注意力分析生成热力图以突出 CNN 模型使用的关键单词,证明该模型在医学决策等方面具有应用价值。