ACLMar, 2021

SemEval-2021 任务 4 中的 XRJL-HKUST：基于 WordNet 增强的双重多头共注意力模型用于抽象含义的阅读理解

PDF
TL;DR该论文介绍了我们的系统如何结合大型预训练语言模型和双重多头互注意力层以加强问题 - 答案对与段落之间的关系，在此基础上通过增加层归一化模块和 WordNet 的定 义作为额外输入来优化我们的模型，从而在 SemEval 2021 Task 4 的官方测试集中获得了 86.67% 和 89.99% 的准确率。
semevalreading comprehensionlanguage modelco-attentionwordnet
发现论文，激发创造
  • SemEval-2023 任务 4: 基于对比学习强化的最近邻机制的标签表示多头注意力模型，用于多标签文本分类中的毛泽东

    本文介绍了我们团队使用 Roberta 模型进行多头注意力机制的人类价值自动识别方法，在 SemEval 2023 的评测中得到了第四名的成绩。

    Jul, 2023

  • Yuanfudao 参加 SemEval-2018 任务 11：三路关注和关系知识在常识机器理解中的应用

    本文描述了我们关于 SemEval-2018 任务 11 的研究：利用通识知识的机器阅读理解系统。我们使用三向注意力网络（TriAN）来模拟段落、问题和答案之间的交互，并通过来自通识知识概念网络的关系嵌入增强输入。因此，我们的系统在测试数据中实现了 83.95% 的最高准确性，代码可公开获取。

    Mar, 2018

  • SemEval-2018 第 11 项任务中的 HFL-RC 系统：用于常识阅读理解的混合多方面模型

    本文介绍了一种基于神经网络的 Hybrid Multi-Aspects (HMA) 模型，用于改进机器阅读理解中的多选题预测，该模型在 SemEval-2018 任务 11 中取得了 83.97% 的准确度，超过了基准系统和其它竞争对手。

    Mar, 2018

  • 深度强化学习模型用于摘要生成

    提出了一种基于编码器 - 解码器和 RNN 的自注意力神经网络模型，通过组合监督和强化学习来训练和生成连贯性和可读性更强的长文摘要，与目前最先进模型相比，在 CNN / Daily Mail 数据集上取得了 41.16 的 ROUGE-1 得分，并且人工评估表明我们的模型产生了更高质量的摘要。

    May, 2017

  • 基于注意力机制的卷积神经网络用于机器阅读理解

    本篇论文探讨了在 MCTest 数据集上应用基于神经网络的层次化注意力机制的机器理解和问答任务，实验结果表明这种方法大幅度超越之前的深度学习方法。

    Feb, 2016

  • ZJUKLAB 在 SemEval-2021 任务 4 中的负面增强语言模型应用于抽象含义阅读理解

    本文介绍了我们在 SemEval 任务四中的阅读理解的三个子任务中用于学习模型的算法，并说明了算法调优和选择最佳模型的过程。通过使用语言模型的负增强技术，我们提出了一种简单而有效的技术方法。评估结果表明了我们提出的方法的有效性，并在两个官方测试集中取得了第 4 名和第 2 名的成绩。我们还进行了全面的模型分析，并观察到有趣的错误案例，这可能有助于未来的研究。

    Feb, 2021

  • 双路协同匹配网络用于多项选择阅读理解

    本文提出了一种新的机器阅读理解方法 —— 双向联合匹配网络 (DCMN)，该方法在多项选择阅读理解数据集 (RACE) 上取得了 state-of-the-art 结果，并计算出了同时同时考虑文章、问题和答案的相互关系的表示方法。

    Jan, 2019

  • 一种论述感知的长文本抽象摘要关注模型

    本文提出了一种针对单个较长文档（如研究论文）进行抽象概括的模型，采用新的分层编码器对文章进行语篇结构建模，并运用有意识的编码器生成摘要，实验证明该模型显著优于现有模型。

    Apr, 2018

  • 注意力求和读者网络的文本理解

    该研究提出了一种使用注意力机制直接从文本中选取答案的模型，特别适用于以文本中某个单词为答案的问题，并在多个数据集上取得了新的最优成绩。

    Mar, 2016

  • FusionNet: 基于全意识关注的融合方法及其在机器理解中的应用

    本文介绍了一种名为 FusionNet 的新型神经结构，它通过三个方面的创新来扩展现有的注意力方法。我们将 FusionNet 应用于斯坦福问答数据集（SQuAD）中，并在官方 SQuAD 排行榜上取得了单一模型和集成模型的第一名。同时，我们验证了 FusionNet 的泛化性，并且它在两个对抗性 SQuAD 数据集上取得了新的最高水平。

    Nov, 2017