EMNLPSep, 2018

深度学习问答系统中动词的重要性探究

PDF
TL;DR通过研究深度学习 QA 系统在 SQuAD 数据集上的表现，我们发现问题中的主要动词对系统的决策影响较小，在超过 90％的案例中，将动词替换为其反义词不会改变系统的决策。通过分析自我注意机制和 RNN 的隐藏层中包含的值，我们找到了这种现象存在的原因。此外，我们认识到问题源自于 SQuAD 数据集的特点，我们的工作涉及到 NLP 中广受关注的对抗性例子以及深度网络结构的研究。
发现论文，激发创造
  • 走向透明化的 AI 系统：解释视觉问答模型

    该论文探讨使用引导反向传播和遮挡等可视化技术，解释视觉问答（VQA）模型的工作过程，并发现即使没有显式注意机制，VQA 模型有时也会隐含地关注图像中的相关区域和问题中的适当单词。

    Aug, 2016

  • 基于 SQuAD 的神经问答模型比较分析

    本文通过定量和定性分析现有端到端神经模型在斯坦福问答数据集上的结果，旨在理解和比较其特性，以迈向实现在多个领域中的泛化能力。研究发现，预测错误反映了某些模型特定偏差，本文对此进行了进一步讨论。

    Jun, 2018

  • 模型是否理解问题？

    本文通过对深度学习模型的问答能力进行分析，引入了词汇重要性的概念，并借此来对问题进行扰动，从而建立对模型的评估及攻击。该方法可通过突出模型在正确率、逻辑、数据等方面的不足，提高模型的推理及总体性能表现。

    May, 2018

  • 基于深度学习的问答模型实证研究

    本文研究深度学习模型，结合记忆组件或注意力机制进行问答任务。我们比较了三种模型：神经机器翻译、神经图灵机和记忆网络，用于一个模拟 QA 数据集。研究表明，注意力和记忆的组合有潜力解决某些 QA 问题。其中，本文是首个使用神经机器翻译和神经图灵机解决 QA 任务的研究。

    Oct, 2015

  • 尽可能简单地构建神经问答

    本文提出了一个简单的构建神经 QA 基线系统的启发式方法，并发现了两种必要的构建高性能神经 QA 系统的因素：第一，处理上下文时需要注意问题单词；第二，需要超越简单的词袋建模，例如循环神经网络。我们的结果表明，满足这两个要求的 FastQA 系统可以与现有模型实现非常有竞争力的性能。我们认为这一令人惊讶的发现将之前系统的结果和最近 QA 数据集的复杂性放在了一个更加客观的角度。

    Mar, 2017

  • 电影问答：我们是否在问正确的问题？

    本研究探讨电影问答数据集中存在的语言偏见，提出一个简单的模型，通过合适的词向量训练，能够在不考虑视频和字幕等故事情境的情况下，通过观察问题和答案来回答约一半的问题。与排行榜上发表的最佳论文相比，我们的简单问题 + 答案模型在视频 + 字幕类别精度提高了 5％，在字幕、DVS 和剧本方面精度更是提高了 15％，这表明使用适当的词向量训练能够大大提高问答准确度。

    Nov, 2019

  • 基于规则的开放域问答系统在 SQuAD v2.0 数据集上的设计与开发

    本研究提出了一种基于规则的开放域问答系统，可以回答来自相关上下文的任何领域的问题，使用 1000 个问题的 SQuAD 2.0 数据集测试开发的系统表现满意，同时分析了性能。

    Mar, 2022

  • 从信息检索和深度神经网络角度的基于文本的问答：一项综述

    本文综述了传统信息检索方法和深度神经网络方法在文本问答任务中的应用，介绍了相关模型以及可供比较的数据集和文献结果。

    Feb, 2020

  • 分析视觉问答模型的行为

    本文研究了基于深度学习模型的视觉问答模型，发现现有模型的准确率在 60-70％之间，且本文提出系统分析这些模型行为的方法，发现这些模型存在缺点，包括不够全面、容易得出错误答案和不易更正的问题。

    Jun, 2016

  • 让人沮丧地简单的自然问答

    文章研究了问题回答领域（Question Answering）中各种算法模型以及增强数据方法，提出了基于 Attention-over-Attention 等方法的组合以及数据增强和集成策略，可在 SQuAD 等基准数据集上取得超人的表现。但在最新的自然问题基准数据集上，相对简单的 BERT 迁移学习方法取得了超过先前表现最优系统 1.9 F1 点的优异表现，并且添加集成策略进一步提高了 2.3 F1 点。

    Sep, 2019