COLINGNov, 2020

用于论文评审评估推荐的分层双向自注意力网络

PDF
TL;DR本文提出了一个基于层次自注意力网络框架（HabNet）的论文审阅评级预测和推荐方法，该方法能够作为学术论文审阅过程的有效决策工具，并通过三级编码器中的分层结构来识别有用的预测器，以及帮助发现评审者所传达的数值评级和文本情感之间的不一致性，进一步引入了两个新的度量标准来评估数据不平衡情况下的模型，经过对公开数据集（PeerRead）和我们自己收集的数据集（OpenReview）的广泛实验，证明了该方法相比于最先进的方法有着更为卓越的表现。
发现论文，激发创造
  • 具有关注交互的非对称分层网络，用于可解释的基于评论的推荐

    本文中，我们开发了一种新颖的神经网络模型，通过非对称注意模块恰当地解决了用户评价和产品评价的不同。多层次范式考虑到了不同的评价和句子的重要性和相关性。在各种真实数据集上的广泛实验结果表明了我们方法的有效性。

    Dec, 2019

  • 从用户和产品级别信息中学习评论表示以进行垃圾邮件检测

    提出一种用于自动学习用户和产品层次的评论语义的 HFAN 方法，包括设计多重注意单元以提取用户（产品）相关评论信息、使用正交分解和融合注意力从评论信息中学习用户、评论和产品表示以及将评论作为用户和产品实体之间的关系并将其编码为评论表示。实验结果表明此方法在四个真实数据集上表现优于现有方法。

    Sep, 2019

  • 利用高速网络的科学论文多任务推荐系统

    本论文提出了一种基于深度学习的多任务推荐系统，用于从科学论文中提取关键信息，包括关键字、作者以及推荐评分等。系统采用 RNN、Highway 和 CNN 等多种深度学习技术，以端到端的方式学习上下文语义，解决冷启动等问题。

    Apr, 2022

  • 用于生成标题的评论网络

    该研究提出了一种扩展的编码器 - 解码器框架 - 评论网络，通过对编码器隐藏状态进行多次注意力机制的评论步骤来输出思维向量，并将这些思维向量作为解码器中的注意力机制的输入，该框架在图像标题和源代码标题两个任务上表现优于现有的编码器 - 解码器系统。

    May, 2016

  • 基于分层注意力文本编码器和 SciBERT 的本地引文推荐重新排序

    通过使用最近邻搜索和层次化注意网络构建文本嵌入来预测相关的引用文献，并使用 SciBERT reranker 在本地引文推荐任务中进行微调，我们的 reranker 需要更少的预取候选项即可达到最先进的性能。

    Dec, 2021

  • 文档理解的双向上下文感知分层注意力网络

    本文提出了几种改进 Hierarchical Attention Network (HAN) 的方法，在一些大规模情感和主题分类数据集上证明了使用双向的 CAHAN 会比 HAN 更有效，代码公开。

    Aug, 2019

  • 层次化的注意力混合神经网络用于文档分类

    本文提出了一种基于卷积神经网络、门控递归单元和注意机制的组合方法，用于文档分类任务，并通过层次结构表示提取了更有意义、更可泛化和抽象的特征，改善了当前基于注意力机制的文档分类方法的结果。

    Jan, 2019

  • 基于注意力机制的神经机器翻译双向分层表示

    本文提出了一种层次注意机制的神经翻译模型，采用双向树形编码器来增强源端层次表示，用加权变异的注意机制平衡词汇和短语向量之间的信息，通过树形稀有词编码将该模型扩展至亚字级别以缓解词汇缺失的问题，实证结果表明，该模型在英汉翻译任务中显著优于序列到序列的注意力机制和基于树的神经翻译模型。

    Jul, 2017

  • 基于层次模型的方面情感分析

    通过建模评论中的句子之间的相互依赖关系，我们提出了一种基于分层双向 LSTM 的情感分析方法，在五个多语种、多领域的数据集上取得了竞争状态下最先进结果，并优于其它两种基线模型，而且不需要使用手工特征或外部资源。

    Sep, 2016

  • 分层循环注意力网络用于生成回复

    研究聊天机器人中的多轮对话应答生成，提出一种基于分层循环注意力网络的方法，该方法使用单词级别和语句级别的注意机制来捕捉对话上下文中重要部分，能够明显优于现有的多轮应答生成模型。

    Jan, 2017