粗粒度细粒度协同注意力网络用于多证据问答

ICLRJan, 2019

粗粒度细粒度协同注意力网络用于多证据问答

Coarse-grain Fine-grain Coattention Network for Multi-evidence Question Answering

Victor Zhong, Caiming Xiong, Nitish Shirish Keskar, Richard Socher

TL;DR本文提出了一种名为 CFC 的新的问题回答模型，它结合了来自多个文档的证据信息，其粗粒度模块尊重从查询中解释文档以及找到相应答案，而其细粒度模块通过比较其在所有文档中与查询的出现次数得分每个候选答案。这种模型使用共同关注和自我关注的层次结构设计，学习强调输入的不同部分。在 Qangaroo WikiHop 的多证据问题回答任务中，CFC 在盲测试集上获得了 70.6％的最新技术结果，尽管没有使用预先训练的上下文编码器，但仍比之前最佳结果高出 3％的准确性。

Abstract

End-to-end neural models have made significant progress in question answering, however recent studies show that these models implicitly assume that the answer and evidence appear close together in a single document. In this work, we propose the coarse-grain fine-grain coattention network

end-to-end neural model question answering coarse-grain fine-grain coattention network multi-document evidence state-of-the-art result

发现论文，激发创造

面向多跳问题回答的粗粒度分解与细粒度交互

本文提出了一种新的多跳问题回答模型架构，通过应用 CGDe 和 FGIn 两种策略，在 SQuAD 和 HotpotQA 数据集上表现出超越 state-of-the-art 基线的性能。

Jan, 2021

阅读理解和问答的多粒度层次注意力融合网络

本文提出了一种新颖的分层注意力网络，用于阅读理解式问题回答，在问题和段落之间的不同粒度层次上水平和垂直进行注意力和融合。通过具有精细语言嵌入的问题和段落的编码，引入多粒度融合方法来全面融合来自全局和受关注表示的信息。最后，引入分层注意力网络，通过多级软对齐逐步聚焦于答案跨度。广泛的实验在大规模 SQuAD 和 TriviaQA 数据集上验证了所提出方法的有效性，同时在 TriviatQA、AddSent 和 AddOne-Sent 数据集上达到了最先进的结果。

Nov, 2018

一种基于强化学习的粗细粒度问答系统

本文提出了一种基于强化学习的粗到精问答（CFQA）系统，使用多步骤的深度强化学习模型来处理文档，可以处理较短或较长的文档，相较于先前的 QA 模型，在 WIKEREADING、WIKIREADINGLONG、CNN 和 SQuAD 等四个 QA 数据集上得到了 1.3%-1.7% 的准确率和 1.5 倍至 3.4 倍的训练速度改善。

Jun, 2021

动态协同网络用于问答

我们提出了动态协同注意网络（DCN）来解决深度学习模型在问题回答中可能会遇到局部极大值的问题，并在 Stanford 问题回答数据集上将准确率从 71.0% F1 提高到 75.9％ F1，使用 DCN 合奏能够获得 80.4％ F1。

Nov, 2016

高精度和粗粒度混合自注意力机制用于高效 BERT

通过 FCA 算法实现对信息量有效的细粒度计算单元和无信息量的粗粒度计算单元的混合自注意力机制，提升了 Transformer 模型在计算上的效率，同时在多个自然语言处理任务中展现出与原模型相当的性能。

Mar, 2022

一个面向问题的多要素注意力网络用于问答

本文提出一种新颖的端到端问题聚焦的多因素注意网络，用于回答提问文本中的问题，通过张量变换实现多因素关注编码，以对散布在多个句子中的信息进行建模，并采用最大化注意聚合机制来对提问文本进行编码，从而实现对问题类型的隐式推断，并在三个大型挑战性问题回答数据集中实现了显著的性能提升。

Jan, 2018

FC-KBQA：一种基于精细到粗糙组合的知识库问答框架

本文提出了一种基于精细到粗粒度组合的 KBQA 框架 (FC-KBQA)，它通过从 KB 中提取相关的细粒度的知识组件并将其重新构成中粒度的知识对，以实现逻辑表达式的泛化能力和可执行性。实验证明，FC-KBQA 在 GrailQA 和 WebQSP 上都有最先进的性能表现，并且比基线系统运行速度快 4 倍。

Jun, 2023

基于图注意力网络的文档建模用于多粒度机器阅读理解

本文提出了一种新的多粒度机器阅读理解框架，利用图注意力网络对文档的不同层次进行建模，以同时学习各个级别的表示，从而提取长答案和短答案并建模其之间的依赖关系，并通过联合训练来显著提高对两种类型答案的准确性。

May, 2020

答案生成与摘要：基于证据抽取的多阶段问答多任务学习

该研究提出了一种基于 Query Focused Extractor (QFE) 模型的可解释的多跳问答系统，使用多任务学习并结合了问答模型进行证据点提取，实验结果表明该模型在 HotpotQA 和 FEVER 任务中达到了最佳证据提取效果。

May, 2019

一种用于可解释假新闻检测的粗到精级联证据蒸馏神经网络

本研究提出了一种基于媒体上流传的原始报道的可解释的假新闻检测方法，使用粗到细的级联证据蒸馏神经网络来选择最可解释的句子以提供 verdict，并构建了两个可公开获取的可解释假新闻数据集。实验表明，该模型显著优于现有基线模型，从不同角度提供高质量的解释。

Sep, 2022