Dec, 2016

机器阅读理解的多角度上下文匹配

PDF
TL;DR在 SQuAD 数据集上，我们提出了一种多角度上下文匹配模型，它是一种端到端系统，可以直接预测文本段落中答案的起点和终点。我们的模型通过使用双向 LSTM 来编码问题和加权段落，利用多个角度将文本上下文与编码问题进行匹配，并生成一个匹配向量，最终利用另一个双向 LSTM 汇总所有信息并预测起点和终点。在 SQuAD 测试集上，实验结果显示我们的模型达到了领先位置的竞争力。
发现论文，激发创造
  • 使用 Match-LSTM 和答案指针 的机器阅读理解

    提出了一个基于匹配式 LSTM 和 Pointer Net 的神经网络结构，用于机器理解文本，能够在 Stanford Question Answering Dataset 数据集上对传统的逻辑回归与手工特征提取方法结果有显著的提升。

    Aug, 2016

  • 自然语言句子的双向多角度匹配

    提出一种双向多角度匹配（Bilateral Multi-Perspective Matching）模型，利用 BiLSTM 编码器实现 “匹配 - 汇聚” 框架下的多角度匹配，用于自然语言句子匹配，在对比实验中取得了和前沿技术同等水平的性能表现。

    Feb, 2017

  • SciMRC：多角度科学机器阅读理解

    该研究提出了一个新的多方面的科学机器阅读理解数据集 SciMRC，由 741 篇科学论文和 6,057 个问题答案对构成，并利用预训练模型进行了广泛的实验，表明了考虑不同阅读角度的重要性，并证明了其机器理解的挑战性。

    Jun, 2023

  • 半监督式填空式阅读理解的多角度上下文聚合

    本文提出了一种新颖的多角度框架，用于衡量自然语言理解的进展，并在 CLOTH 数据集上实现了最新的最佳表现。

    Aug, 2018

  • 多角度一致性提升大型语言模型中的置信度估计

    通过多重视角的一致性方法（MPC），改进大型语言模型的置信度估计，减缓由于单一视角导致的过度自信问题，实现了最先进的性能。

    Feb, 2024

  • 基于知识增强对比提示的少样本抽取式问答

    该论文介绍了一种名为 KECP 的新框架以解决机器阅读理解中的抽取式问答任务中的少样本学习问题，通过转换任务为非自回归掩码语言建模生成问题，并引入外部知识库和上下文来增强嵌入的查询表示，同时通过对比学习目标和 MLM 目标的联合训练来提高 PLMs 的性能。该方法在多个基准测试中都表现出了明显优于最先进方法的性能。

    May, 2022

  • MaP: 基于矩阵的预测方法，提高机器阅读理解中的跨度抽取

    本文提出了一种基于概率矩阵和基于采样训练策略的跨度抽取方法，该方法在四个问答基准数据集中得到了持续的改进，展示了该方法的有效性。

    Sep, 2020

  • MMM：多选阅读理解的多阶段多任务学习

    本研究提出了一种名为 MMM 的基于多阶段多任务学习框架的多选阅读理解方法，其中采用了一种名为多步注意力网络 (MAN) 的新型分类器。实验证明该方法在四个代表性 MCQA 数据集上显著提高了最新技术水平。

    Oct, 2019

  • 自然语言问题回答问题的集成方法

    该研究利用神经注意力机制提高机器阅读理解和问答的准确性，分析和比较多种神经网络模型，将其组成集成模型并在 SQUAD 数据集上测试，结果表明集成模型优于最佳模型 Mnemonic Reader。

    Aug, 2019

  • 面向稀疏数据的并行分层机器理解模型

    本篇论文中，我们基于神经网络提出了一种新的方法 Parallel-Hierarchical model 来应对训练数据量有限的 MCTest 数据集中自然语言理解问题，并在评测中取得了新的 state of the art，表现优于之前的手工特征提取方法和神经网络方法。

    Mar, 2016