Nov, 2019

通过对抗训练来提高机器阅读理解能力

PDF
TL;DR本研究探讨了对于机器阅读理解任务的敌对训练（AT）方法应用的影响，以及使用半监督学习通过虚拟对抗训练（VAT）提高其性能的可能性，并发现 AT 能够帮助模型在包含低频词汇的实例中学习更好。
adversarial trainingmachine reading comprehensionsemi-supervised learningnatural language processinglow-frequency words
发现论文，激发创造
  • 利用虚拟嵌入进行机器阅读理解的对抗训练

    本研究针对机器阅读理解任务应用对抗训练（AT）作为一种正则化方法，提出一种基于嵌入矩阵扰动而非单词向量的新型对抗训练方法 PQAT，测试结果显示对抗训练对跨领域具有普适性，PQAT 方法进一步提高了性能。

    Jun, 2021

  • 利用对抗攻击揭示机器阅读理解模型中的统计偏差

    本文研究了预训练语言模型在机器阅读理解任务中表现的问题，发现现有模型的性能存在统计偏差，提出了一种有效的攻击方法以及一种改进的训练方法来解决这个问题。

    May, 2021

  • 机器阅读理解的对抗性域自适应

    本研究提出了一种针对无监督域自适应机器阅读理解的方法，其中源域有大量标记数据，而目标域只有未标记数据。该方法使用敌对领域自适应框架（AdaMRC），生成虚拟问题并结合领域分类器进行压缩编码，经过对抗学习实现域不变表示学习，具有普适性、可以与预训练的大规模语言模型相结合，并可扩展到半监督学习。

    Aug, 2019

  • 机器阅读理解模型鲁棒性基准测试

    本文提出了一个新的基准数据集 AdvRACE，用于测试机器阅读理解模型在模拟的并非完全准确的测试环境下的鲁棒性，通过提供不同类型的对抗攻击测试，包括基于新的分散干扰的抽取和生成攻击，并表明现有的最先进模型都非常容易受到这些攻击的影响。

    Apr, 2020

  • 使用组合性解释来教授机器理解

    本文提出了一种使用少量半结构化解释 “教” 机器阅读理解的方法，同时提取结构化变量和规则，并组成神经模块作为下游 MRC 模型的训练实例的注释，使用可学习的神经模块和软逻辑来处理语言变化并克服模型覆盖率不足。在 SQuAD 数据集上，使用 26 个解释进行监督训练，该方法实现了 70.14% 的 F1 得分，与使用 1100 个标记实例的普通监督学习相比，速度提高了 12 倍。

    May, 2020

  • 多上下文联合实体和关系抽取的对抗训练

    本文介绍了一种名为对抗训练的正则化方法，利用该方法可以通过在训练数据中添加微小扰动，提高神经网络方法的稳健性，并演示如何将其应用于实体识别和关系提取等任务，以提高不同上下文（如新闻、生物医学和房地产数据）和不同语言（如英语和荷兰语）的数据集的效果。

    Aug, 2018

  • 通过对抗训练实现稳健的多语言词性标注

    本文探讨基于对抗性训练的模型对自然语言处理任务的影响，发现对抗性训练不仅可以提高深度学习模型的鲁棒性，还能对词性标注和依存句法分析等任务有积极的影响。

    Nov, 2017

  • 机器阅读理解的稳健领域自适应

    本文提出了一种名为 RMRC 的方法，使用对话和领域自适应技术构建问题 - 答案对，通过答案提取器和问题选择器以及增强式自训练方法进行优化，从而解决机器阅读理解中因领域迁移引起的问题，包括噪声对应和效率降低，实验证明了该方法的有效性。

    Sep, 2022

  • 神经机器阅读理解：方法与趋势

    本文综述了深度学习在机器阅读理解 (MRC) 中的应用，包括典型的 MRC 任务、神经网络 MRC 的体系结构和新兴领域。文章指出了未来需要解决的问题。

    Jul, 2019

  • 提高多语言机器阅读理解答案边界检测能力

    本文提出在 fine-tuning 阶段加入两个辅助任务，建立跨语言问题 - 段落对，并结合从 web 挖掘的知识短语进行跨语言 MRC，实验证明该方法有效。

    Apr, 2020