EMNLPAug, 2019

机器阅读理解的对抗性域自适应

PDF
TL;DR本研究提出了一种针对无监督域自适应机器阅读理解的方法，其中源域有大量标记数据，而目标域只有未标记数据。该方法使用敌对领域自适应框架（AdaMRC），生成虚拟问题并结合领域分类器进行压缩编码，经过对抗学习实现域不变表示学习，具有普适性、可以与预训练的大规模语言模型相结合，并可扩展到半监督学习。
发现论文，激发创造
  • 机器阅读理解的稳健领域自适应

    本文提出了一种名为 RMRC 的方法，使用对话和领域自适应技术构建问题 - 答案对，通过答案提取器和问题选择器以及增强式自训练方法进行优化，从而解决机器阅读理解中因领域迁移引起的问题，包括噪声对应和效率降低，实验证明了该方法的有效性。

    Sep, 2022

  • 基于对抗学习的领域自适应技术提高生物医学机器阅读理解任务的能力

    本篇论文提出了一种基于对抗学习的领域适应框架，即 BioADAPT-MRC，用于解决通用域和生物医学域数据集之间的分布分歧问题，使得在不使用合成或人工注释的数据的情况下，可以实现在生物医学文本阅读理解任务中最好的性能。

    Feb, 2022

  • 无监督域适应语言模型用于阅读理解

    本研究提出了不受监督领域自适应阅读理解（UDARC）的两种模型，其中一种采用了序列学习方法，而另一种采用了语言建模和阅读理解的多任务学习方法。研究结果表明，这些模型在不同领域的五个数据集上具有比无领域自适应模型更好的性能表现，已进一步提高了生物医学领域的 EM / F1 分数。

    Nov, 2019

  • 阅读理解的无监督域自适应

    利用条件对抗自训练方法，结合 BERT 模型和置信度过滤在目标领域中生成可靠的伪标记样本，通过条件对抗学习来减少域分布差异，从而在多个大型基准数据集上实现与监督模型相媲美的准确性。

    Nov, 2019

  • 基于不确定性感知的固态记忆和对抗领域适应的连续机器阅读理解

    该论文提出了 MA-MRC，一种使用具有不确定性意识的固定内存和对抗领域适应的连续 MRC 模型，旨在在不访问以前见过的数据的情况下，从连续数据流中学习。实验结果表明，MA-MRC 具有显着的增量学习能力，没有灾难性遗忘在两个不同的连续 MRC 设置下。

    Aug, 2022

  • 多重对抗领域适应

    本文提出一种多重对抗领域自适应方法 (MADA)，能够捕获多模态结构，利用多个领域判别器实现不同数据分布的精细对齐，利用随机梯度下降计算梯度，证据表明该模型在标准领域自适应数据集上优于现有最先进方法。

    Sep, 2018

  • 通过对抗训练来提高机器阅读理解能力

    本研究探讨了对于机器阅读理解任务的敌对训练（AT）方法应用的影响，以及使用半监督学习通过虚拟对抗训练（VAT）提高其性能的可能性，并发现 AT 能够帮助模型在包含低频词汇的实例中学习更好。

    Nov, 2019

  • 展示、适应和述说：跨领域图像描述器的对抗训练

    本研究提出了一种利用对抗训练和未匹配数据进行跨域图像字幕生成的方法，使用两个评论家网络来指导生成器，并在训练期间通过政策梯度更新来提高生成器性能，并在推理时进一步提出了一种评论家规划方法，无需附加监督进行句子选择。实验表明该方法在多个数据集上表现良好。

    May, 2017

  • 机器阅读理解模型鲁棒性基准测试

    本文提出了一个新的基准数据集 AdvRACE，用于测试机器阅读理解模型在模拟的并非完全准确的测试环境下的鲁棒性，通过提供不同类型的对抗攻击测试，包括基于新的分散干扰的抽取和生成攻击，并表明现有的最先进模型都非常容易受到这些攻击的影响。

    Apr, 2020

  • 对抗领域自适应在重复问题检测中的应用

    我们使用对抗域适应来检测网络论坛中的重复问题，实验结果表明平均改进了 5.6％，并且指出了该方法有效的条件以及相应的领域特征。

    Sep, 2018